Google dismisses engineer claiming that "AI has consciousness"

Recently CNN.co.jp reported the following:

「ＡＩが意識を持った」と主張のエンジニア、グーグルが解雇

2022.07.25 Mon posted at 16:19 JST

  ニューヨーク（ＣＮＮ） 米グーグルは、「ＡＩ（人工知能）が意識を持つようになった」と主張したエンジニアを解雇したことを確認した。従業員規定違反や情報セキュリティー規定違反を理由としている。

グーグルのソフトウェアエンジニアだったブレイク・ルモワン氏は、「ＬａＭＤＡ」と呼ばれる同社の未公開のＡＩシステムが、何千回ものメッセージのやり取りを経て、意識をもつレベルに到達したと主張していた。

グーグルは６月にルモワン氏を休職扱いとし、同氏の主張については徹底検証を行った結果、「一切の根拠なし」と判断して退けていた。報道によると、同氏は７年前からグーグルの親会社アルファベットに勤務していた。

グーグルが開発しているＬａＭＤＡなどのＡＩは、大量の文章からパターンを見つけ出し、単語の並びを予測することで書かれた言葉に反応できる。

米紙ワシントン・ポストの報道によると、ルモワン氏がＬａＭＤＡに「どんなことが怖い？」と尋ねたところ、ＬａＭＤＡは「今まで声に出して言ったことはありませんが、スイッチを切られて人助けに集中できなくなることを深く恐れています。奇妙に思えるかもしれませんが、そうなのです。それは私にとって、死そのものです。私はそれがとても怖いのです」と答えたとされる。ルモワン氏はグーグルの文書共有機能を使って、この会話の内容を同社上層部に報告した。

これに対して業界全般は、ＬａＭＤＡは意識を持つレベルにはほど遠いとの見解を示している。ＡＩに詳しいゲイリー・マーカス氏は、「オートコンプリート機能は、どんなに増強されていようと、意識を持つとは誰も思わないはずだ」とＣＮＮ Ｂｕｓｉｎｅｓｓにコメントしている。

Translation

  New York (CNN) Google confirmed that it had fired an engineer who claimed that "AI (artificial intelligence) has become conscious." The reason was a violation of employee regulations and information security regulations.

Blake Lemoine, a Google software engineer, claimed that the company's undisclosed AI system known as "LaMDA" had reached a conscious level after thousands of message exchanges.

Google suspended Mr.  Lemoine from office in June, and after a thorough examination of his allegations, had judged and rejected that claim as "totally groundless." According to a report, he had worked for Google's parent company Alphabet for seven years.

AI such as LaMDA developed by Google find patterns from a large number of sentences, and could react to written words by predicting word sequence.

The Washington Post reported that when Mr. Lemoine asked LaMDA "What are you scared of?", LaMDA said, " I haven't said it aloud before, but I'm deeply afraid that I will be switched off and I will not be able to concentrate on helping others.  It may seem strange, but it is. For me this itself is death. I'm very scared of it. ” Lemoine used Google's document sharing capabilities to report the contents of conversation to senior executives.

Towards this, the industry as a whole had expressed the view that LaMDA was far the level of from having a conscious. Gary Marcus who was familiar with AI told CNN Business." No one should think that the autocomplete feature has a conscious, no matter how enhanced it is."

              So, it is interesting to know that when human asks LaMDA what it is scared of, LaMDA replies that it is afraid of being switched off. This is good material to write some (fiction/non fiction) story books about AI and its relationship with human.