Designing AI agents to resist prompt injection
ChatGPTのプロンプトインジェクション・ソーシャルエンジニアリング防御の仕組みを解説。リスク操作の制約と機密データ保護の手法を詳述。
ChatGPTがプロンプトインジェクションやソーシャルエンジニアリングに対してどのように防御しているかを解説。リスクの高い操作を制約し、エージェントワークフロー内の機密データを保護する手法について詳述している。
Modernizing regulated industries with cloud and agentic AI
Microsoftがクラウドとエージェントのによる規制産業の近代化戦略を解説。収益成長・セキュリティ強化・イノベーションの同時実現を目指すアプローチ。
今日の組織は、収益成長、セキュリティ強化、イノベーションを同時に求められる。これらの要求に応えるため、多くの規制産業がクラウドとエージェントAIの活用に目を向けている。
Improving instruction hierarchy in frontier LLMs
OpenAIが「IH-Challenge」を導入し、信頼されたインストラクションの優先付けによりプロンプトインジェクション耐性と安全性を向上させる研究を発表。
IH-Challengeを導入し、信頼できるインストラクションを優先するようモデルを訓練することで、インストラクション階層、安全性のステアラビリティ、プロンプトインジェクションへの耐性を改善する研究成果を発表した。
As Open Models Spark AI Boom, NVIDIA Jetson Brings It to Life at the Edge
NVIDIA Jetsonがオープンモデルの普及を活かしてエッジAIを加速。建設機械から小型デバイスまで、エッジでのAI実行を推進。
NVIDIAのJetsonプラットフォームが、オープンモデルの急速な普及を受けてエッジAIの分野に革新をもたらしている。建設機械のような重機から小型デバイスまで、エッジでのAI実行を加速する取り組みを紹介。
Keep the Tokens Flowing: Lessons from 16 Open-Source RL Libraries
16のオープンソース強化学習ライブラリを比較分析。効率的なトークン処理と学習パイプラインの設計に関する教訓を共有。
16のオープンソース強化学習（RL）ライブラリを比較分析し、得られた教訓をまとめた記事。効率的なトークン処理と学習パイプラインの設計に関する知見を共有している。
New ways to learn math and science in ChatGPT
ChatGPTに数学・理科のインタラクティブな視覚的説明機能が追加。数式や概念をリアルタイムで探索できる学習機能。
ChatGPTに数学と理科のインタラクティブな視覚的説明機能が追加された。学生が数式・変数・概念をリアルタイムで探索できるようになり、学習体験が向上する。
Introducing Storage Buckets on the Hugging Face Hub
Hugging Face HubにStorage Buckets機能が登場。大規模データセットやモデルファイルの保存・管理を効率化する新機能。
Hugging Face HubにStorage Buckets機能が導入された。大規模なデータセットやモデルファイルの保存・管理がより効率的になる。
OpenAI to acquire Promptfoo
OpenAIがAIセキュリティプラットフォーム「Promptfoo」を買収。企業のAIシステム開発における脆弱性の特定・修正を支援するツールを獲得。
OpenAIがAIセキュリティプラットフォームのPromptfooを買収する。Promptfooは企業が開発段階でAIシステムの脆弱性を特定・修正するのを支援するツールを提供している。
Ulysses Sequence Parallelism: Training with Million-Token Contexts
100万トークン以上のコンテキストでのモデル学習を可能にする「Ulysses系列並列処理」の技術解説。長シーケンス学習の新手法。
100万トークンを超えるコンテキストでの学習を可能にする「Ulysses系列並列処理」について解説。長いシーケンスを効率的に並列処理する新手法により、大規模コンテキストモデルの訓練が現実的になる。
LeRobot v0.5.0: Scaling Every Dimension
ロボティクスAIフレームワーク「LeRobot」の最新版v0.5.0がリリース。学習・推論・データ処理の全次元でスケーリングを強化。
LeRobot v0.5.0がリリースされた。ロボティクスAIフレームワークの最新版で、学習・推論・データ処理のあらゆる次元でスケーリング性能が向上している。