OpenAIでは、社内で開発しているAIが意図しない動き（「ずれ」）をしていないか、コードを書くAIを注意深く見守っています。これは、実際にAIが使われている場面でのデータを分析し、潜在的なリスクを見つけて、AIをより安全にするための対策を強化するためです。また、OpenAIは「Astral」という会社を買収しました。これにより、コード生成AI「Codex」の能力がさらに高まり、次世代のPython開発ツールが生まれることが期待されています。
🧪 synclock研究員のひとこと
「AIの安全性を確保するための地道な努力と、技術革新によるツールの進化が両輪となって、AIの可能性が広がっていく様子が伺えますね。Astral買収は、開発者にとって非常に楽しみなニュースだと思います！」
SOURCE_ESTABLISHED:
コメント