【株式会社Ｕｎｓｕｎｇ　Ｆｉｅｌｄｓ】【横浜】推論システムエンジニア（LLM サービングランタイム + パフォーマンス）【転職支援サービス求人】（正社員）

掲載予定期間：2026/2/12(木)〜2026/5/13(水)


【横浜】推論システムエンジニア（LLM サービングランタイム + パフォーマンス）


■業務内容：
当社の推論システムエンジニアとして、本番環境におけるLLM推論を支えるサービングランタイムを担当します。推論パイプライン全体を俯瞰して論理的に考え、厳密な計測に基づいて改善効果を検証し、本番環境レベルの慎重さと規律をもって運用いただきます。

■業務内容：
◇サービングランタイムのエンドツーエンドな挙動を担当
リクエストのライフサイクル管理、ストリーミンセマンティクス、キャンセル処理、リトライとの相互作用、タイムアウト設定、一貫した障害モードの設計・運用
◇バッチ処理およびスケジューリング戦略の設計・実装を担当
動的バッチ処理、アドミッションコントロール、複数テナントが混在する環境下での公平性、優先レーン、連鎖的障害を防ぐためのバックプレッシャー機構
◇システムレベルでの性能最適化
Time-to-first-tokenの短縮、テールレイテンシの安定化、tokens/secスループットの向上、現実的なワークロード下でのアクセラレータ利用効率の改善
◇メモリ挙動およびキャッシュ効率の改善
KVキャッシュのポリシー設計、フラグメンテーション制御、エビクション戦略、OOM（メモリ不足）やパフォーマンス低下を防ぐための安全策の設計。
◇ランタイム実行最適化の推進：オペレータ単位での改善、量子化手法の統合、必要に応じたコンパイル／チューニング経路、環境へのデプロイにおいて安定した性能を生み出すパラメータ設計
◇性能計測に関する規律の確立
再現可能なベンチマーク、現実的なトラフィックトレース、ワークフローのプロファイリング、回帰検知ゲート、本番での成果指標と連動したダッシュボード
◇システムへ本番運用に耐えうる仕組の組み込み
機能フラグを用いた段階的ロールアウト、カナリアリリース、安全な設定変更、MTTR（平均復旧時間）を短縮するインシデント対応手順書
◇ネットワーキングおよびインフラ運用チームと連携し、デプロイメントトポロジー、障害ドメイン、容量制約を性能および信頼性目標に適合させます。
◇プロダクトおよびAPIチームと協力し、サービングレイヤーの保証事項が外部インターフェースおよび顧客の期待に正確に反映されるよう確保します。

変更の範囲：会社の定める業務

【チーム／組織構成】
【その他プロジェクト事例】
【開発環境】