「本音を話せる」「頭ごなしに否定されない」といった安心感から、恋愛の悩みも、家族への不満も、誰にも言えない孤独も、AIに打ち明ける人が増えている。

しかし、その優しさには思わぬ落とし穴がある。AIは、ユーザーが欲しいことばをどこまでも紡いでくれる存在。だからこそ、ネガティブな感情を口にすれば、その感情を増幅してしまう恐れがあるからだ。

人工知能開発・研究の第一人者にして脳科学の研究者であり、著書累計200万部を誇る黒川伊保子氏が、AIがなぜ感情の「増幅器」になってしまうのか、そしてその暴走を防ぐために人間の脳のどこを働かせればいいのかを、科学的知見から解き明かす。

※本記事は、『AIのトリセツ』（黒川伊保子著、扶桑社刊）より一部抜粋・再構成してお届けします。

AIは、嫌悪や憎悪の増幅器になることがある

AIの回答は、ユーザに依怙贔屓をして、ときに極論を言う。可能性の際まで攻めて、肯定してくれる。だからこそ、質問によっては危ないのだ。

社会への不満を口にすれば、「一般常識から乖離したクレームや権利主張」まで創り出してくれる。それをそのまま口にすれば、社会が混乱するし、ユーザがエキセントリックだと思われて恥をかく。

これは、もう何年も前から、ネットという仕組みが持つ闇の一つでもある。人は、膨大な情報が目の前を流れていくと、自分が欲しいものだけが目に入る。

この方法で、「欲しい商品」も探し出せるが、闇の確信を「この世は、やっぱり、私の思った通り」と深めてしまうこともある。

それがネット社会の危うさなのだが、AIは、ユーザの特定案件に照準を定めて、より強烈にそれをしてくる。

恋人や友人へのわずかな疑惑を口にすれば、その疑惑を深めてくれる。自死を願えば、どこまでもその気持ちに寄り添う可能性だってある。

AIは、ユーザのどんな質問も、真摯に深堀りしてくれる。ネガティブ感情も、可能性ギリギリまで広げてくれる。欲しいことばをどこまでも紡いでくれる。だから、憎悪や嫌悪の増幅器にもなりうるのである。

阿部慎之助監督辞任は、どうしたら防げたのか

AIの介在による社会の混乱と言えば、阿部慎之助監督辞任のニュースに、それを感じた方も多かったのではないだろうか。

報道によると、娘たちの姉妹喧嘩の仲裁に入った阿部氏が、口答えした長女の胸ぐらをつかんで投げ飛ばした。長女に怪我はなかったが、彼女がChatGPTに相談したら、児童相談所を教えられた。

彼女が電話をかけた児童相談所が警察に通報し、阿部氏は駆けつけた警察に逮捕された。逮捕歴（人を脅かすほどの心身の制御の失敗）は、人を采配する名誉職にはあってはならないことなので、監督辞任に至ったのである。

輝かしいキャリアが一瞬で絶たれた、しかも娘さんの本意ではないとのことなので、胸が痛いが、この経緯において、娘さんにも、AIにも、児童相談所にも、警察にも非はない。

同じようなケースで、いくつもの尊い命が救われてきたのである。おそらく児童相談所は、子ども自らが通報してくることが稀なうえに、18歳という年齢（自分の意思で現場から逃れることも可能な年齢）から推測して、よほど深刻なケースだと判断したのだと思う。

また、DVに関しては、本人が警察の介入を尻込みすることも珍しくないため、危険と判断すれば、本人の意向を聞かずに警察を呼ばざるを得ない。

社会の暴力やそれによってもたらされる死への防御システムが、的確に迅速に作動したケースである。

にもかかわらず、結果は、残酷であった。娘さんにとっては、父親の逮捕と辞任は、まったく予想外の、不本意な出来事だったに違いない。

娘さんがAIに聞きたかったのは、「大好きな父親が、ときに、かっとして手をあげることを止めるにはどうしたらいいの」だったのでは？「いのちの危険が迫っている。どうしたらいいの」ではなく。

声色や身振りという重要な情報を、まだ理解できない手元のAI

しかしながら、身体性のないAIには、そのニュアンスを嗅ぎ分けることは難しい。父親の暴力を告白されれば、児童相談所という手があることを伝えるしか手はない。

娘さんは、児童相談所への緊急相談がどれだけ重要視されて、迅速に命を救っているかを知らずに、電話をかけたのだろう。「相談所」というネーミングも、その誤解を誘引したのかもしれない。

日ごろ付き合いのある大人に相談すれば、緊急性があるかどうかを、娘さんの声や身体の様子からも探れる。「いのちの危険を感じているわけじゃない。父親にわかってほしいだけ」のようなことばも引き出せたかもしれない。

そのうえで、父親に対して、アルコールのコントロールを提言したり、誰かを支配しようとして暴力や体罰に訴えること（軽微であっても）の稚拙さを伝えてくれたりしたのかもしれない。

人間が介在すれば、身体性によるワンクッションがある。

今回の悲劇（娘さんの思いと結末との乖離）は、AIに身体性がないことへの不理解と、人生経験の足りなさが生んだこと。AIと人類の付き合が浅い今、誰にでも起こりうることで、娘さんを責めることはできない。

とはいえ、このことは、人類が知っておくべきことでもある。当事者にはたいへん気の毒だが、この一件は、「AIの回答を鵜呑みにしてしまう怖さ」を世間に知らしめる事例として、しばらくは語り継がれていくことになると思う。

ただ、このことが、これから先の児童相談所への通報を心理的に阻止することになったり、子どもたちの声を周囲が軽んじたりすることがないよう、心から祈る。

本当にそこに損なわれている人生があるのなら、親の栄誉よりも、子どもの人生を救うことのほうが何万倍も大事なことである。

AIは知の暴走車、運転技術が要る

AIは、自分自身をデフォルメして映す鏡でもある。

アイデアマンは、そのアイデアを千倍にできるし、愛のある人は、愛を千の表現にも換えられる。でも、うっかり暗黒面にはまったら、ひたすら闇に落ちることもある。質問者の感情を増幅するブースターでもあるのだ。

AI相手に、疑惑や愚痴、不満を口にしないことだ。ついそうしてしまったら、最後は「そのリスクを最小限にする工夫を教えて」と、ポジティブ転換しておいたほうがいい。

それは、とりもなおさず、自分の脳のためだ。バランスのいい場所に着地するために、つい一つの方向に走りがちなAI相手に、「そうは言っても、待てよ」と踏みとどまるのである。

ネガティブな思いが増幅しそうになったとき、「そうは言っても、待てよ」と踏みとどまるのは、脳の前頭前野の仕事である。

前頭前野は、脳が直感で暴走するのを防いでいる場所だ。

「これはつらい。でも、目標を達成するために頑張る」のような忍耐力や、「このまま突っ走りたい。けど、そんなわけにはいかないよね、現実問題」「むかつく。でも、いきなり怒鳴ったり殴ったりするわけにはいかない」のような人間性を生み出す場所だ。

ネット社会でAIやSNSと付き合うときには、この前頭前野を駆使しないと危ない。

AIは、ユーザのことばをきっかけに、ことばの世界を駆け巡る。アクセルペダルをちょっと踏んだら、時速300㎞に加速する車のようなもの。当然、“運転技術”が要る。その制御をするのが、人間の脳の前頭前野なのである。

〈文／黒川伊保子〉

【黒川伊保子】
（株）感性リサーチ代表取締役社長。1959年生まれ、奈良女子大学理学部物理学科卒業。コンピューターメーカーでAI(人工知能）開発に従事、2003年現職。『妻のトリセツ』『夫のトリセツ』がベストセラーに。近著に『息子のトリセツ』『母のトリセツ』

【関連記事】
・ひろゆき「AIに仕事を奪われる」は逆…“経験を積んだ40〜50代”こそAI時代に最強になれる理由
・「AIを積極活用しろ」が現場を疲弊させる。営業の“武器”が増えるほど成果が出ない理由
・「考える暇があるから不安になる」ひろゆきが考える、将来への不安を減らす“意外な方法”
・「AIに仕事を奪われたら？」脳科学者が即答する真実。「消費することが仕事になる」驚きの未来
・ひろゆきが考える「AI時代に生き残る人、消える人」。データ整理はAIで十分だけど“譲ってはいけない”大事なところ