ハビエル・エルナンデス AI に特化したスタートアップ企業 Anthropic は、人工知能を導くべき基本原則について、約 1,000 人の米国民から意見を集めました。この取り組みは、テクノロジーを社会全体の利益に合わせることを目的とする非営利団体 Collective Intelligence Project (CIP) と提携し、「AI 憲法」の基礎を築きました。この取り組みは、民主的な参加が AI 開発の軌道にどの程度影響を与えることができるかを調査することを目的としています。
目次
アントロピックとCIPが協力し、市民参加を通じてAI憲法を開発
Claude チャットボットの開発元である Anthropic 社は、Collective Intelligence Project と連携して、約 1,000 人のアメリカ人の意見を集め、AI ガバナンス ドキュメントを作成しました。Claude は当初、Anthropic のスタッフが独自の Constitutional AI (CAI) 方式を使用して作成した一連の原則に従って管理されていました。この方法では、大規模な言語モデルが包括的な倫理ガイドラインに従って動作することが保証されます。これらの社内ガイドラインは、国連の世界人権宣言などの重要な文書からヒントを得ています。
今週初め、アントロピックは、公聴会を通じて策定された規約の詳細を記したブログ記事を公開した。記事では、CAI アプローチを使用して、公に決定されたガイドラインに従って新しい AI システムをトレーニングした結果についても説明されている。アマゾンの支援を受けたアントロピックは、このベンチャーの動機について次のように詳述している。
目的は、民主的なメカニズムが AI の進化に及ぼす潜在的な影響を調査することでした。この取り組みを通じて、私たちは社内で策定した憲法と一般の人々の視点との間の一致点と相違点を特定しました。
Anthropic と CIP は、世論を測定するために設計されたデータ分析プラットフォームである Polis を利用して、大規模な言語モデルベースのチャットエージェントを管理すべき規範原則を提案または投票するよう、さまざまなアメリカ国民を招待しました。
このプロジェクトにより、公開された憲章の原則の約半分が Anthropic の社内バージョンと一致していることが明らかになりました。一般からの提案の顕著な違いには、バランスのとれた客観的な情報の重視、および障害者のアクセシビリティと適応性が含まれていました。
アントロピックはさらに、合意が得られなかったために最終的な憲法から除外された公的提案にも言及した。これには、AIが個人の権利よりも集団の幸福を優先すべきか、それとも共同体の利益よりも個人の自由と個人の責任を優先すべきかという相反する意見が含まれる。
Collective Intelligence Project は、この実験に関する報告書の結論として、「結果として得られた公開モデルは、複数のステレオタイプにわたるバイアスが少なく、数学的能力、自然言語理解、全体的な有用性や安全性などの指標においてベースライン モデルと同等のパフォーマンスを示した」と述べています。CIP はさらに、AI が日常生活やコミュニケーションにますます統合されるようになるにつれて、AI の行動形成に一般の視点を取り入れることが極めて重要であると強調しました。
AI システムのトレーニングにおける一般の関与の役割について、あなたの意見をお聞かせください。以下のコメント セクションであなたの意見をお聞かせください。
AI構成に関するよくある質問（FAQ）
Anthropic の AI 憲法プロジェクトの主な目的は何ですか?
Anthropic の AI 憲法プロジェクトの主な目的は、民主的な参加が人工知能の開発と倫理ガイドラインにどのような影響を与えるかを調査することです。Collective Intelligence Project との協力を通じて、Anthropic は AI システムの動作を規定する憲法を起草するために一般からの意見を求めてきました。
この取り組みに関与する主要な利害関係者は誰ですか?
このプロジェクトの主な関係者は、AI スタートアップの Anthropic と非営利団体 Collective Intelligence Project (CIP) です。さらに、約 1,000 人のアメリカ国民がこの取り組みに参加し、AI を導くべき原則について意見を述べました。
Anthropic は AI が倫理ガイドラインに従うようにするためにどのような方法を採用していますか?
Anthropic は、大規模な言語モデルが包括的な倫理ガイドラインに従って動作することを保証するため、Constitutional AI (CAI) と呼ばれる独自の方法を使用しています。この方法は当初、Claude チャットボットの動作を規定する一連の内部原則を策定するために使用されました。
一般からの意見を集めるためにどのようなプラットフォームが使用されましたか?
大規模な世論を収集・分析するために設計されたデータ分析プラットフォームである Polis は、約 1,000 人のアメリカ国民の意見を集めるために使用されました。参加者は、AI の動作に関する規範的な原則を提案したり、投票したりすることができました。
一般大衆と人類の憲法の間には、どのような顕著な違いがありましたか?
大きな違いの 1 つは、国民がバランスのとれた客観的な情報の提供を重視していることです。もう 1 つは、障害を持つ人々が AI システムにアクセスし、適応できるようにすることに重点が置かれていることです。
合意が得られなかったために除外された矛盾する原則はありましたか?
はい、特定の相反する見解は最終的な公憲法には盛り込まれませんでした。これには、AI が個人の権利や好みよりも集団の福祉を優先すべきか、あるいはその逆かといった意見が含まれます。
Collective Intelligence Project によるパブリック モデルの最終評価は何でしたか?
Collective Intelligence Project は、公開モデルはさまざまなステレオタイプにわたってバイアスが少なく、数学的能力、自然言語理解、全体的な有用性と安全性に焦点を当てた評価においてベースライン モデルと同等のパフォーマンスを示したと結論付けました。
AI の動作を形成する上で一般からの意見が重要だと考えられるのはなぜですか?
AI は日常生活、仕事、コミュニケーションのさまざまな側面にますます統合されているため、一般からの意見は非常に重要だと考えられています。AI のガバナンスに多様な視点を取り入れることで、より倫理的で普遍的に受け入れられる AI システムを実現できます。
8 コメント
障害を持つ人々へのアクセシビリティに一般の人々が注目していることを嬉しく思います。見落とされがちですが、非常に重要です。
この憲法 AI (CAI) 方式とは何ですか? 興味深いようですが、それに関する情報はあまり見つかりませんでした。詳細を知っている人はいますか?
本当に興味深い記事です。そろそろ誰かが一般の人々を AI 開発に参加させる時期です。つまり、AI を使うのは私たち自身ですよね?
では、この 1000 人は本当に全人口を代表していたのでしょうか? 発言権を得たのは技術に詳しい人だけではないことを祈ります。
素晴らしいスタートですが、これは氷山の一角にすぎません。AI はすべてを変えるでしょうから、後で後悔するよりは今意見を言うほうがいいでしょう。
AI が「集団の利益」を優先するという考えが気に入るかどうかはわかりません。私にはオーウェル風すぎるように聞こえます。
「偏りの少ない」AI について語られていますが、AI が完全に偏りのない状態になることはあり得るのでしょうか? 疑問に思います。
Anthropic はここで何かに気づいています。彼らが倫理を考慮し、AI 開発に真っ向から飛び込むのではなく、そうしていることがわかってうれしいです。彼らに敬意を表します。