AI Computing Software Development Engineer, TensorRT-LLM
英文職缺・已幫你整理成中文
- Taiwan Taipei
- 初階
職缺摘要
NVIDIA 正在尋找 TensorRT-LLM 團隊的軟體開發工程師,負責打造可擴展至多個平台的強健推論軟體,進行大型語言模型(LLM)推論的效能分析與最佳化。
摘要由 AI 依英文原文整理成中文,不是逐字翻譯,以官方職缺為準
職缺內容
工作內容
- 設計與開發可擴展至多平台的強健推論軟體以提升功能與效能
- 進行大型語言模型(LLM)推論的效能分析與最佳化
- 追蹤人工智慧領域的學術與工業界發展並更新 TensorRT-LLM 功能
- 實作 kernel 與執行時期功能以支援新的 LLM 模型與推論演算法
- 提供架構與硬體設計開發的回饋並與跨公司團隊合作
必備條件
- 電腦工程、資訊科學、應用數學或相關領域碩士或更高學歷(或同等經驗)
- 3年以上相關軟體開發經驗
- 具備優秀的 Python 程式設計、軟體設計與軟體工程技能
- 掌握最新 LLM 架構與 LLM 推論技術的發展
- 具備 PyTorch 與 HuggingFace 等深度學習框架的工作經驗
加分條件
- 具備 LLM 推論框架(TensorRT-LLM、SGLang、vLLM、llama.cpp、MLC-LLM 等)…
- 深入理解 LLM 推論框架內部運作或 LLM 推論端到端工作流程
- 具備 DL/HPC/高效能應用程式的效能建模、效能剖析、除錯與程式碼最佳化經驗
- 具備優秀的 C/C++ 程式設計與軟體設計技能,包含除錯、效能分析與測試設計
- 具備 CPU 與 GPU 的架構知識
由英文原文整理成中文的重點,不是逐字翻譯。 看原始職缺的完整內容
技能
- Python
- PyTorch
- 大型語言模型應用
- 深度學習
時間軸
第一次在官方頁發現
追蹤開始前已刊登
最後一次確認仍在官方頁
2026-10-02 09:17・31 分鐘前
相關職缺
NVIDIA的其他職缺
「職缺雷達」的職缺資訊擷取自各公司官方徵才頁面,CareerOS 與各刊登公司無隸屬、合作或代理關係;職缺是否仍開放與其內容,以各公司官方頁面為準。 若您是職缺刊登方並希望移除,請來信 申請移除職缺。
頁面上的公司名稱與 logo 為各公司所有之商標,僅用於辨識,不代表合作或背書關係。