TensorFlow 2.21 がリリースされた。オンデバイス推論向けに LiteRT への移行が進み、NPU などハードウェアアクセラレーションの対応が広がっている。セキュリティ修正や新しい Python への追随のため、コンポーネント単位のパッチを出しやすい体制も整えられた。

#主要な変更点

  • LiteRT の統合: オンデバイス推論ランタイム LiteRT がプロダクションスタックへ移行した。従来の TFLite 比で GPU パフォーマンスが 1.4 倍、NPU アクセラレーションや Gemma などの生成モデルのクロスプラットフォーム展開に対応する。モデル変換経由で PyTorch および JAX もサポートする。
  • tflite 演算子の低精度サポート拡充: SQRT や比較演算子に int8・int16x8、tfl.cast に INT2・INT4、tfl.slice に INT4、tfl.fully_connected に INT2 が加わった。
  • バグ修正と依存関係更新: TF.data、TensorFlow Serving、TensorBoard などで、セキュリティ修正や新しい Python 対応のマイナー／パッチを迅速に出せる体制が敷かれた。

#留意事項

TF Lite プロジェクトは LiteRT へ名称変更され、独立して開発が続く。TensorFlow 本体は本番利用向けに維持され、生成 AI 分野の新規開発は Keras 3、JAX、PyTorch の活用が公式に推奨されている。

#参考文献