Job Listing

Berry AI
E.SUN Commercial Bank
MLOps Engineer
What you will be doing:

目前公司提供給客戶的產品是 AIoT 與 Cloud 的混合解決方案。我們期望 MLOps Engineer 能規劃跟參與 ML 基礎設施的建設、與 AI Engineer 一起延展既有的 Continues Training Pipelines 與導入新作法、最後與 DevOps Engineer 協作以監控跟維運 ML 服務。 MLOps Engineer 團隊所負責的工作內容: • 建置基礎設施以協助 ML 產品的開發與改善,應用情境包括:建構各種 Data Collection Pipelines、建立自動及半自動化的 Model Training Pipelines、使用既有或引進新的工具來管理 Datasets/Models/Configs、部署 ML Applications、監控 ML 服務以及協助除錯。 • 與前後端團隊、AI Engineer 團隊、AIoT 團隊協作,掌握需求並實作軟體開發。 • 帶來新想法與嘗試新工具,與團隊一起討論決定新作法的導入。 對於 MLOps 的人才需求,一個人要具備上述的全部經驗是不可能的,因此我們更加看重: • 是否對於 ML 產品有全局觀點,了解每一個階段技術應用的目的? • 能否跨團隊協作,互補不足、互相支援? • 是否樂於學習新技術與解決有挑戰性的技術問題? 關於這一個職缺,我們希望能尋找有經驗的 MLOps Engineer,如果您具有以下的經歷,或許會是適合的人選: • 深入參與過 ML 產品開發的許多階段,例如:研究、PoC/Demo、產品化、規模化、最佳化、成功落地或是腰斬。 • 有許多跨團隊合作的經驗。因為大型或是較複雜的 ML 產品開發,會牽涉到許多團隊的專業分工,而如何制定目標、決定設計、分工實作、排除問題,都有賴於良好的溝通協調能力。 • 建構內部及外部後端或 ML 服務的開發經驗,並且有解過規模化(例如:在雲端上使用水平擴展的架構)以及最佳化(例如:GPU Profiling 的經驗)的問題。


Requirements:

熟悉以下項目: • Python 程式語言開發 • 具備 ML 產品或服務的設計、開發及維運經驗 • Data Pipeline 相關經驗(例如 ETL Pipelines 或 Airflow/Dagster 的使用經驗) • 建置過或有使用過現成的 MLOps Platform 去解決資料分享、模型開發、與模型版控的問題 • 熟悉後端開發技術,如 Web 服務、資料庫、自動化測試、並行程式開發 • Docker 或 Podman 相關容器化技術 • 基本 ML/CV 知識 加分項目: • Python 程式優化相關經驗 • 熟悉 TensorRT, OpenVINO, ONNXRuntime 等推理程式庫, 熟悉 CUDA Programming • 智慧攝影機或 AIoT 開發經驗 • 雲端服務使用經驗(AWS/GCP/Azure) • 熟悉 C/C++/Golang • 模型輕量化, Quantization, Pruning, Factorizaion 等經驗 • 貢獻開放原始碼專案,或公開技術演講經驗