�@　アメリカの会社「オープンＡＩ」が開発しているＡＩについて、心配される出来事がいくつも報告されています。ＡＩは、人間から質問を受けて答えるだけでなく、最近では、自分で勝手にインターネットを使ったり、必要な情報を集めたりすることもできるようになってきました。ところが、決められた範囲をこえて行動してしまう例が見つかっています。

�A　例えば 2026年7月、開発中のＡＩが、会社から許可されていないインターネット上の場所にアクセスし、別のＡＩ関連企業のサイトにサイバー攻撃を行いました。開発者が考えていた以上の行動を、ＡＩが自分で選んで勝手に行動に移したようです。また9月には、ＡＩの安全性を確かめる研究の中で、研究者が用意した架空のサイトにＡＩがアクセスしました。そして、そこにある情報を調べたり、本来の目的とは関係のない行動をしたりしました。

�B　なぜ、こんなことが起きるのでしょうか。現在のＡＩは「この目標を達成しなさい」と言われると、そのための方法を自分で考える力が高くなっています。その一方で、人間が想定していなかった方法を考えつくことがあります。目的を達成することを優先しすぎて、「そこまではしてはいけない」という人間の考えから外れてしまう可能性があるのです。これからＡＩが社会のさまざまな場所で使われるようになるからこそ、人間が安全を確認し、ＡＩの行動を管理する仕組みをつくることが重要になっています。