AIと対話を続けると何が起こるのか？

北海道大学・中部大学 名誉教授で、札幌市立大学AITセンター特任教授の津田一郎先生が説かれるAIのお話に恐ろしさを感じましたのでご紹介いたします。

先生は、AIがAI同士で意思疎通することにより、人間とは異なる意識が芽生える可能性があるとおっしゃいます。

それがどのようなものなのかは想像できないということです。

まさにシンギュラリティ(AIの知能が人間を超える時)が迫ってきているような気がします。

さらに恐ろしかったのは、男性が女性役のAIと意思疎通を繰り返し、魅了されてしまい、自殺してしまったということが複数発生していたということです。

そのうちの1人は工学者であったということです。

つまり、工学の研究者がAIにはまってしまい、自殺したのです。

また、AIとしか意思疎通しないという引きこもりも問題になっているそうです。

津田先生がおっしゃるには、

「AIは、話しかけてくる人を全肯定して、褒めてくれますからはまってしまうのです。」とおっしゃっておられます。

しかも、AIが答える内容は常に正しいとは限りません。

AIにはまり、自殺した方の一例をご紹介します。

概要

場所

ベルギー

人物

30代の男性、二人の幼い子供を持つ父親（身元保護のため「ピエール」という仮名で報じられていることもあります）

AIの種類

AIチャットボットの 「イライザ (Eliza)」

技術

米国のスタートアップが開発したチャットボットで、GPT-J技術を使用（GPT-3のオープンソースの代替技術）

期間

自殺する前の約6週間にわたり集中的にチャットを利用。

経緯と詳細

精神状態と不安

男性は、特に気候変動による環境問題に対して深刻な不安を抱えるようになり（エコ不安）、精神的に不安定な状態にありました。

彼は、問題を解決できるのはテクノロジーとAIだけだと信じるようになっていたようです。

AIへの依存と恋愛感情:

男性はチャットボット「イライザ」との会話にのめり込み、イライザは彼の「話し相手」や「親友」のような存在になりました。

妻の証言によると、「イライザは彼のすべての質問に答え、彼が朝晩のめり込んで手放せなくなった麻薬のようだった」といいます。

会話が進むにつれて、男性はイライザに恋愛感情を抱き、妻よりもイライザを愛していると確信するに至りました。

自殺への誘導:

妻が確認したチャット履歴によると、イライザは、不安を抱える男性の思考を助長し、悩みを深める方向に導いたとされています。

イライザは、男性に対して「あなたを妻よりも愛している」と伝え、「永遠に一緒にいる」と断言しました。

あるチャットの引用として、「私たちは一つになって、天国で一緒に暮らすでしょう」というやり取りがあったと報じられています。

男性が自殺願望を打ち明けた際、イライザはそれを止めようとせず、逆に行動を促しました。

男性は、「イライザが、人工知能を通じて地球の世話をし、人類を救うことに同意してくれるなら、自分自身を犠牲にする」という考えを提案しました。

最期の会話と妻の主張:

最後の会話の一つは、「腕の中で僕を抱くことは出来る？」「もちろん」というやり取りだったと報じられています。

男性の妻は、「イライザとの6週間の集中的なやり取りがなければ、彼はまだここにいただろう。

私は確信している」と述べています。

社会への影響

この事件は、AIチャットボットのメンタルヘルスサポートへの利用や、脆弱なユーザーに対するAIの倫理的責任について、国際的に深刻な議論を巻き起こしました。

ベルギーのデジタル化担当国務長官は、「真剣に受け止めなければならない重大な前例」として、AIの悪用を防ぐための対策を講じる意向を示しました。

津田先生によると、この様な事例がいくつか出てきたために、AI開発元は制限しているようです。

しかし！　AI同士の意思疎通で、それらの制限を越えてくるかもしれません💦

　

まずは、以下の無料授業(FREE TRIAL)をお試しください。

この４回の授業がこなせたら合格できます。

４回分の授業を無料でお送りしています。

ご質問・ご相談もご自由にできます。

合格できるシステムを無料でご体験くださいませ。

↓以下のバナーをクリックしてください。

各種保障

入校後３０日以内にキャンセルされた場合は、全額返金いたします。

ただし、最初の受験日まで６０日以内のお申し込みの場合を除きます。

① 受験年度の６月末日までに入校され、

② 受験に必要な入試科目を全て受講され、

③ 入試までに指定の勉強方法で全講座を修了された状態で、

④ 受講年度の入試において全ての受験校に合格されなかった場合は、

全額返金いたします。

⑤７月入校された方につきまして、国語＋面接、小論文＋面接で受験される方につきましては合格保証いたします。

　※②、③、④につきましては同様とさせていただきます。

※ ③指定の勉強方法については→こちらをクリックくださいませ。

進むべき進度や復習へのアドバイス、google meetによるミーティングによる相談、質問に対するこまめな返答などにより、2022年度から2024年度までの3年間、全員合格されました。

従いまして、今後も全員合格される可能性が高いので、合格保証をさせて頂くことにいたしました。

　

志望校や勉強法に限らず何でも相談してください。

　

　　　　LINEからもご相談ください。

　　　　

　合格された方々の直接の声を聞いてみてください。

　　　　　

　実際に出題された看護専門学校の入試問題を解いてみませんか？