AWS AWS、Trainium向けネイティブPyTorch「TorchNeuron」パブリックベータ版を発表
AWSは、Trainium向けのオープンソースのネイティブPyTorchバックエンド「TorchNeuron」のパブリックベータ版をリリースしました。開発者は標準のAPIやtorch.compileを使用可能です。
pytorch
AWS 
AIニュース Hugging Face、AWS Trainiumでのモデル対応状況を確認できるSpacesを公開
Hugging Faceは、AWS Trainium上でTransformersモデルの対応状況を確認できる「torch-neuronx model support Space」を公開しました。
ITトレンド PyTorch 2.15リリース、Mac向けMPSバックエンドが大幅強化
PyTorch 2.15のMPSバックエンドでは、MacでのFP8対応、LLMデコードの高速化、ビデオVAEデコードのメモリ削減などが実現されています。
AWS TorchNeuronがAWS Trainium向けパブリックベータ提供開始
Hugging FaceはAWS Trainium向けの新ネイティブバックエンド「TorchNeuron」を発表しました。パブリックベータとして公開されています。
LLM理論 NVIDIAのLooped LLM「Dory1.0-4B」とは？層の繰り返しで性能を高める新アーキテクチャ解説
NVIDIAが開発したLooped LLM「NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16」の技術概要、推論コスト調整機能、ベンチマーク結果を解説します。