OpenAIでは、開発しているAIが意図しない動作（「ずれ」）を起こさないか、細心の注意を払って監視しています。特に、AIがプログラムを書く能力を持つ「コーディングAI」については、実際の開発現場でどのように使われているかを分析し、潜在的なリスクを検知して、AIの安全性を高めるための対策を強化しています。
また、Python（パイソン）開発者向けの次世代ツールを強化するため、AI開発の加速を目指して、Astral（アストラル）という会社を新たに買収しました。これにより、より強力なコーディングAIの開発が進められます。
🧪 synclock研究員のひとこと
「AIが意図した通りに動くかどうかの監視は、AIの安全な利用のために非常に重要です。Astralの買収により、コーディングAIの進化が加速し、開発者にとってさらに便利なツールが登場することが期待できます。」
SOURCE_ESTABLISHED:
コメント