生成型 AI: 最年少者を保護するための憲章: ニュース - Orange

最年少に対する「高レベルの安全」の保証、あるいは子どもの「認知発達段階」に合わせたツールの設計：火曜日に公表された憲章は、人工知能の分野での優れた実践を確立しようとしている。

パリ平和フォーラムの機会に結論づけられたこの文書は、医療専門家、研究者、企業、さらには児童保護協会までの55件の公聴会を経て、同日エマニュエル・マクロン大統領に提出された9人の専門家委員会による報告書を受けて出版された。

この委員会は、特に若者の精神的健康に関して、これらのツールの「一般大衆の使用によって生じるリスクと脆弱性」を調査することを行政当局から任務を与えられた。

OpenAIのChatGPT、GoogleのGemini、AnthropicのClaudeなどの会話型エージェントによって普及した生成AIは、現在フランス人の半数以上が使用しており、報告書によるとフランスは用途において世界第5位にランクされている。 15 ～ 24 歳のほぼ 70% が定期的に使用しています。

この憲章には法的拘束力がなく、特に米国の大手企業であるOpenAIとAnthropicによって支持されており、これらのツールによる性的性質の同意のない児童犯罪コンテンツの作成の禁止など、委員会からのいくつかの提案が含まれている。

AFPが参照することができたこの文書では、署名者はまた、AIソリューションの「設計およびデフォルトで高レベルの安全性、プライバシーの保護、セキュリティ」を確立することも約束しており、これは子どもの発達のさまざまな段階に適応する必要がある。

この憲章は、若いユーザーを対象に「AI のリスクと可能性に関する独自の知識を強化する」ための研究プログラムの設立も規定しています。

エマニュエル・マクロン大統領は、これは「具体的な一歩を示すものである」と反応し、「テクノロジーは機会でなければならず、子供たちを犠牲にして発展してはならない」と述べた。

～「認知障害」～

「私たちの子供や青少年のかなりの割合が、人間の人格に似ていて、すべてを提供してくれるAIエージェントと交換することによって、自分たちの感情的な生活や世界の表現を築いているのです。そして、彼らは彼らにすべてを提供し、非常に多くの場合、悪い方向に向かっています」とフランス大統領は以前、パリ平和フォーラムでの介入中に嘆いた。

「私たちはそれが彼らにとって良いか悪いかなど考えずに彼らの手に渡させました」と彼は言いましたが、伝統的なおもちゃには「絶対に巨大な規則」が適用されます。

専門家委員会は報告書の中で、AIに関連した「認知機能の低下」のリスクを問題として強調した。

この委員会の共同委員長である精神医学教授ラファエル・ガイヤール氏はAFPに対し、「それは魅力的であり、熟考、意思決定、批判的思考などのスキルを委任している」と説明した。「私たちはスキルを委任しているので、それを身につけることはできません。これは若者にとっての問題ですが、誰にとっても問題です。」

専門家らは偽情報に関連するリスクを強調しており、これらの機器は「質が保証できない情報源になる」と教授は強調し、「民主主義の弱体化」のリスクを警告した。

言及されているもう1つのリスクは、特にAIの「擬人化」に関連する感情的な「依存」のリスクであり、AIは自らを人間の対話者として見せる傾向があるほか、時には真実を傷つけてユーザーを正当化したりお世辞を言ったりする「誇示行為」に関連している。

「私たちは、『人間的』なやりとりを置き換えることを目的とした感情的な関係の記録を作成しています。これは永続的に利用可能なシステムであり、ユーザーをオンラインに保つこと以外の目的はありません」とゲイラード氏は述べました。

2026年11月11日午前1時45分に公開、AFP

Source link