Recently CNN.co.jp reported the following:
オープンＡＩのアルトマン氏、ＡＩによる「詐欺危機」を警告
2025.07.23 Wed posted at 15:25 JST
ニューヨーク（ＣＮＮ） 米オープンＡＩのサム・アルトマン最高経営責任者（ＣＥＯ）は２２日、人工知能（ＡＩ）によって悪意のある人物が他人になりすますことができるようになる可能性があり、世界は「詐欺危機」の瀬戸際にいるかもしれないと警告した。
アルトマン氏は、「私が恐れているのは、どうやらまだ一部の金融機関が多額の資金の移動やそのほかのことについて、音声認証を受け入れているということだ。チャレンジフレーズを言えば処理される。こんなことがまだ行われているのは常軌を逸している。ＡＩは現在、人間がパスワード以外で認証する方法のほとんどを突破できる」と語った。
ホワイトハウスは近く、「ＡＩアクションプラン」を発表する見通しで、ＡＩ規制と米国のＡＩ分野での優位維持に向けた方針を示す予定だ。オープンＡＩもこの計画に対して提言を行っており、最近は米議会周辺での活動を強化している。
オープンＡＩは来年初め、首都ワシントンに新たなオフィスを開設する予定で、約３０人のスタッフが常駐する。この拠点では、政策立案者向けの新技術の紹介や、教員や官僚に対するＡＩ研修、ＡＩの経済的影響の研究、ＡＩ技術へのアクセス向上策の検討などを行う。
アルトマン氏はＡＩのリスクを認識しつつも、トランプ政権に対しては、過剰な規制は米企業の競争力を損なうとして慎重な対応を求めている。
ＡＩが詐欺行為を加速させるのではないかとの懸念はアルトマン氏だけのものではない。
米連邦捜査局（ＦＢＩ）は昨年、ＡＩによる音声や映像の「クローン詐欺」に警鐘を鳴らした。ＡＩ音声技術を使って、子どもが危険にさらされていると信じ込ませ、金銭をだまし取ろうとする事件も複数報告されている。今月には、ルビオ国務長官の声をまねるＡＩを使った人物が外相や州知事、連邦議会議員に連絡を取ったと米当局が警告した。
アルトマン氏は「重大な詐欺危機が近づいているのではないかと非常に懸念している」と述べた。「いまは音声通話だが、やがてはビデオ通話や『フェイスタイム』のように現実と見分けがつかないものになるだろう」とし、オープンＡＩがそうした技術を開発しているわけではないとしながらも、ＡＩが進化し続ける中で、世界はすぐにこの課題に直面することになるだろうとの見通しを示した。
雇用への影響は「誰にも分からない」
ＡＩが雇用に与える影響については、ＩＴ業界の幹部からも懸念の声があがるが、アルトマン氏は「誰にも先のことは分からない」と述べた。
アルトマン氏は、もっともらしい予測がいろいろと語られているとしたうえで、「でも、誰もそれを予測できない。私の意見では、これはあまりにも複雑なシステムで、あまりにも新しく影響力のある技術なので、予測するのは非常に難しい」と語った。
Translation
OpenAI's Altman Warns of AI-Driven "Fraud
Crisis"
New York (CNN) -- Sam Altman, CEO of OpenAI, warned on July 22 that the world might be on the brink of a "fraud crisis" due to the potential for artificial intelligence (AI) to allow malicious people to impersonate others.
Altman said, "My fear is that some financial institutions are still apparently accepting voice authentication for large transfers of funds and other transactions. You say a challenge phrase and it goes through. It's unacceptable that this thing is still being practiced. AI can defeat most of the authentication methods that humans are using other than passwords."
These remarks were part of a wide-ranging interview at the Federal Reserve Board on the impact of AI on the economy and society. Speaking to an audience that included representatives from major US financial institutions, Altman also discussed the role AI was playing in the economy.
The White House was expected to release an "AI Action Plan" soon to outline policies for regulating AI and maintaining America's dominance in the field. OpenAI had also submitted recommendations to the plan and had recently been stepping up its activities around the U.S. Congress.
OpenAI planned to open a new office in Washington, D.C. early next year with approximately 30 staff members. The office would introduce new technologies to policymakers, provide AI training to teachers and government officials, study the economic impact of AI, and consider best policies to access AI technology.
While Altman recognized the risks of AI, he urged the Trump administration to tread carefully, arguing that excessive regulation could undermine the competitiveness of U.S. companies.
Altman was not alone in his concerns that AI would accelerate fraud.
Last year, the FBI sounded the alarm about AI-based audio and video "cloning fraud". There had also been multiple reported incidents in which AI voice technology was used to trick people into believing their children were in danger and to attempt to swindle money. This month, US authorities warned that an AI impersonating Secretary of State Rubio's voice had contacted foreign ministers, state governors, and members of Congress.
Altman said, "I'm very concerned that we're on the
brink of a major fraud crisis." "Today it's voice calls, but
eventually things like video calls and FaceTime will become indistinguishable
from the real", and while OpenAI is not developing such technology, but as
AI continues to evolve, he predicted that the world will soon face this
challenge
"Nobody Knows" the impact on Employment
While IT industry executives had expressed concerns about
the impact of AI on employment, Altman said, "Nobody knows what the future
holds."
Altman acknowledged that many plausible predictions had been made and added, "But nobody can predict it. In my opinion, it's such a complex system, and as a new and impactful technology, it's very difficult to predict."
Altman said "for some jobs they will entirely disappear,"
but added that new types of jobs would emerge. Looking 100 years into the
future, he repeated his previous prediction that jobs in the future probably
won't be what today's workers think of as "real occupation."
So, Altman warns that the world may be on the
brink of a "fraud crisis" due to the potential for artificial
intelligence (AI) to allow malicious people to impersonate others. As AI
continues to evolve, he predicts that the world will soon face more challenges.
Apparently, some control is needed in the usage of AI.
沒有留言:
張貼留言