CareerOSCareerOS

NVIDIA 台灣 logoNVIDIA 台灣

AI Computing Software Development Engineer, TensorRT-LLM

英文職缺・已幫你整理成中文

  • Taiwan Taipei
  • 初階

職缺摘要

NVIDIA 正在尋找 TensorRT-LLM 團隊的軟體開發工程師,負責打造可擴展至多個平台的強健推論軟體,進行大型語言模型(LLM)推論的效能分析與最佳化。

摘要由 AI 依英文原文整理成中文,不是逐字翻譯,以官方職缺為準

職缺內容

工作內容

  • 設計與開發可擴展至多平台的強健推論軟體以提升功能與效能
  • 進行大型語言模型(LLM)推論的效能分析與最佳化
  • 追蹤人工智慧領域的學術與工業界發展並更新 TensorRT-LLM 功能
  • 實作 kernel 與執行時期功能以支援新的 LLM 模型與推論演算法
  • 提供架構與硬體設計開發的回饋並與跨公司團隊合作

必備條件

  • 電腦工程、資訊科學、應用數學或相關領域碩士或更高學歷(或同等經驗)
  • 3年以上相關軟體開發經驗
  • 具備優秀的 Python 程式設計、軟體設計與軟體工程技能
  • 掌握最新 LLM 架構與 LLM 推論技術的發展
  • 具備 PyTorch 與 HuggingFace 等深度學習框架的工作經驗

加分條件

  • 具備 LLM 推論框架(TensorRT-LLM、SGLang、vLLM、llama.cpp、MLC-LLM 等)…
  • 深入理解 LLM 推論框架內部運作或 LLM 推論端到端工作流程
  • 具備 DL/HPC/高效能應用程式的效能建模、效能剖析、除錯與程式碼最佳化經驗
  • 具備優秀的 C/C++ 程式設計與軟體設計技能,包含除錯、效能分析與測試設計
  • 具備 CPU 與 GPU 的架構知識

由英文原文整理成中文的重點,不是逐字翻譯。 看原始職缺的完整內容

技能

  • Python
  • PyTorch
  • 大型語言模型應用
  • 深度學習

時間軸

  1. 第一次在官方頁發現

    追蹤開始前已刊登

  2. 最後一次確認仍在官方頁

    2026-10-02 09:17・31 分鐘前

相關職缺

「職缺雷達」的職缺資訊擷取自各公司官方徵才頁面,CareerOS 與各刊登公司無隸屬、合作或代理關係;職缺是否仍開放與其內容,以各公司官方頁面為準。 若您是職缺刊登方並希望移除,請來信 申請移除職缺。

頁面上的公司名稱與 logo 為各公司所有之商標,僅用於辨識,不代表合作或背書關係。