仕事内容
Preferred Networksで大規模言語モデル(LLM)を中心としたマルチモーダルな基盤モデルの開発を進めるソフトウェアエンジニアの募集です。アラインメントチームの一員として、LLMの事後学習（指示学習、強化学習）手法の研究開発や、高品質かつスケールするデータ生成手法の研究開発に取り組みます。エンタメ、科学計算、ロボットといった自社事業領域への応用開発や、多様な産業への応用研究を通じて、基盤モデルが人間にとって好ましい出力を生成するよう実用化を目指します。
業務例
- 基盤モデルの性能をさらに向上させるような事後学習(指示学習, 強化学習)手法の研究開発
- 社内外からの様々な用途・要望に対応できるような、高品質かつスケールするデータ生成手法の研究開発
- 事後学習により、基盤モデルの機能を追加するような手法の開発(コンテキスト拡張・語彙拡張など)
- LLMを利用したプロダクト開発での連携や、各ドメインに特化したLLM開発プロジェクトへの連携など
Job Description
- Preferred Networksでは大規模言語モデル(LLM)を中心としたマルチモーダルな基盤モデルの開発を進めている
- エンタメ、科学計算、ロボットといった自社事業領域を強化する形での導入を目指した応用開発や、多様な産業への応用研究も行っている
- アラインメントチームのミッションは「基盤モデルが好ましい出力を生成するようにすること」
- 有用性・正確性・安全性といった観点から、人間にとって好ましい出力を生成するように学習させていくことが必要
- 事前学習されたモデルに事後学習を行い実用化に必要なモデルを作り上げるための研究開発に取り組む
- 高品質な生成データを学習させることで小規模なモデルでも高い性能を出すような取り組みが盛んになっており、効率的なデータ生成方法の研究開発にも注力
求めるスキル・経験
必須
コンピュータサイエンスの知識や関心
機械学習または自然言語処理に関する研究または実務の経験および実績 機械学習モデル開発経験自然言語処理
Pythonを使ったソフトウェア開発経験 Python
コンピューターアーキテクチャーを理解し、ソフトウェアの実効効率や、計算量を意識したプログラムの作成が出来ること パフォーマンス最適化経験
数学、自然科学（物理、化学など）に関する、大学卒業程度の知識（もしくは学習により習得可能なこと）
チームでの課題解決の経験 問題解決能力
業務内容の一部として、特定の国籍の方が従事できないプロジェクトを含む場合があること
歓迎
LLMの学習経験
分散学習フレームワーク(FSDPやDeepSpeedなど)を使った開発経験
データ生成、学習、評価までのパイプラインの構築経験
データセットやベンチマークなどの作成経験
機械学習OSSへのコントリビューション経験 機械学習モデル開発経験OSSコントリビューション
プログラミング競技コンテスト、ゲームAIコンテスト、データ分析コンテスト（Kaggleなど）などの実績・経験
研究に対する優れた実績
開発プロジェクトにおける3名以上のチームのリーダーシップ経験
募集要項
- 職種
- 機械学習エンジニア
- 雇用形態
- 正社員
- 想定年収
- 応相談
- 勤務地
- 東京都 千代田区
- レベル
- メンバー
- 勤務時間
- 裁量労働制 / 実働8時間
- 休日休暇
- 完全週休2日制 / 祝日休み
- 試用期間
- 3ヶ月