Musk, Scientists Call for Halt to AI Race Sparked by ChatGPT
2023/03/29 SecurityWeek — いつかは人間を凌駕するかもしれない、パワフルなな人工知能技術の展開において、テック企業の動きは速すぎるのだろうか。著名なコンピューター科学者や、Elon Musk、Apple の創業者 Steve Wozniak といったテック業界の著名人たちのグループは、リスクを考慮するために、６ヶ月間の一時停止を要求している。この申立は、サンフランシスコのスタートアップ OpenAI が、先日に発表した GPT-4 に対するものだ。広く使われている AI チャットボット ChatGPT を、さらに進化させた GPT-4 は、ビッグテックである Microsoft と Google のアプリケーション開発競争に火をつけるきっかけにもなっている。
彼らは何を言っているのか？
彼らの申立書には、「人間並みの知能を持つ AI システムは、社会と人類に重大なリスクをもたらす可能性がある。インターネットに偽情報を流し、仕事を自動化することから、SF 領域の壊滅的な未来のリスクまである」と記されている。
この数ヶ月において、大半の AI ラボは制御不能な競争に巻き込まれ、これまで以上に強力なデジタル・マインドの開発／展開を試みているが、そのような展開の先にあるものは、その考案者／開発者でさえも理解／予測／制御できないものだ。
この申立書には、「我々は、すべての AI ラボに対して、GPT-4 よりもパワフルな AI システムの訓練を、直ちに一時停止し、少なくとも６ヶ月間の猶予を持つことを求める。この一時停止の詳細は、公開され、検証可能であり、すべての主要な関係者を含むものであるべきだ。このような一時停止が迅速に実施できない場合には、各国政府が介入し、モラトリアムを制定すべきである」と記されている。
すでに多くの政府が、リスクの高い AI ツールの規制に取り組んでいる。3月29日 (水) に英国は、そのアプローチの概要をまとめたペーパーを発表し、「イノベーションを阻害しかねない強引な立法は避ける」と述べている。また、27カ国で構成される欧州連合 (EU) の議員たちは、包括的な AI ルールの成立について交渉している。
誰が署名したのか？
この申立は、非営利団体 Future of Life Institute により組織されたものであり、署名者にはチューリング賞を受賞した AI のパイオニアである Yoshua Bengio に加えて、Stuart Russell や Gary Marcus といった一流の AI 研究者が含まれているという。その他にも、Steve Wozniak や、元米大統領候補の Andrew Yang、人類を滅亡させる核戦争への警告で知られる Bulletin of the Atomic Scientists の代表である Rachel Bronson も参加している。
Tesla, Twitter and SpaceX を経営し、OpenAI の共同設立者で初期の投資家でもあった Elon Musk は、以前から AI の実存的リスクについて懸念を表明している。さらに意外なのは、AI 画像ジェネレーター Stable Diffusion のメーカーである、 Stability AI の CEO Emad Mostaque の参加だ。この、Amazon との提携で生まれた Stable Diffusion は、OpenAI のジェネレーター DALL-E と競合するものである。
その反応は？
この申立について、OpenAI／Microsoft／Google はコメントは発していないが、その主張に対しては、すでに多くの懐疑的な意見が寄せられている。
コーネル大学のデジタル情報法教授である James Grimmelmann は、「一時停止は良いアイデアだが、この申立書は曖昧であり、規制の問題を真剣に受け止めていない。また、Tesla が自動運転車の欠陥 AI に関する説明責任と、どれほど激しく戦ってきたのかと考えると、Elon Musk による署名は罪深い偽善である」と述べている。
これはAIヒステリーなのか？
この申立書は、現実に存在するものと比べて、遥かに知的な極悪 AI を提起しているが、署名した人たちが心配しているのは、そのような超人的な AI ではない。ChatGPT のようなツールは印象的ではあるが、膨大な量の文章を摂取して学んだことに基づき、与えられたプロンプトに答える言葉を予測する、単なるテキスト・ジェネレーターである。
この書簡に署名したニューヨーク大学名誉教授の Gary Marcus はブログの中で、「人間の手に負えないほど賢い機械が、自己改良するようになることが、近い将来において起こるのではないかと心配している人たちとは、違うことを考えている。それよりも心配なのは、犯罪者やテロリストが人々を傷つけ、危険な情報を流布するなどの、広く展開されている平凡な AI を心配している」と述べている。
Gary Marcus は、「現在のテクノロジーは、すでに巨大なリスクをもたらしているが、私たちに備えがない。未来のテクノロジーにおいては、さらに事態が悪化する可能性が十分にある」と指摘している。
ここで一挙にと攻勢をかける Microsoft などに対して、Elon Musk や Steve Wozniak に加えて、一流の AI 研究者たちが、一時的な休止を求めるという事態となったようです。Elon Musk に対する皮肉ですが、悪意を持つものと持たないものを、彼は言っているのだろうと思ってしまいます。昨日 (2023/03/28) の、「ユーロポールの ChatGPT 評価：近い将来に起こり得る問題の可能性について」は、目の前の犯罪への懸念が主ですが、こちらは、もっとスケールを拡大した懸念となっています。J・Ｐ・ホーガンが、「未来の二つの顔」で描いていた世界への、入り口へと近づいてきた感じがします。
IoT OT Security News 
You must be logged in to post a comment.