AIは急速に進化しており、ほとんどの機関、規制当局、さらには投資家がスピードをとることができるよりも速く進化していますが、DWF Labsの経営パートナーとして、当社は初期段階のWeb3インフラストラクチャとデジタル資産市場で資本を展開しています。 人工知能はすでに戻らない点に達していると考えることは難しく、すでに数多くの産業でその存在を感じさせているし、もはや単に私たちをより生産的にすることだけに限定されていない。 ますます、AIは単にコード、テキスト、画像のラインを生成し、人々のために実際の決定を下すことを超えています。 人間が彼らのアプリケーションを見る前に、さまざまな申請者を承認し、他の人を拒否します。 銀行はAIを利用し、AIは治療を勧める。 そして、法執行機関はAIシステムで実験し、 起こる前に スクリーン候補者 疾病の診断 融資申請の評価 predict crimes スクリーン候補者 疾病の診断 融資申請の評価 犯罪予測 これらのアプリケーションは、私たちがより良い決断を下すのを助けることを約束します。それらは、人間の能力をはるかに超える膨大な量の情報を分析し、感情に影響されずに結論に達することによって、これらのシステムは透明性と説明性の欠如によって妨げられています。 現在の議論は、より大きなモデル、より多くのデータ、より大きなコンピューティングなどのスケールに焦点を当てているが、本当の課題は説明性にあります。AIの意思決定プロセスを追跡できない場合、それは投資できない、信頼できない、そして最終的に重要なシステムでは使用できないブラックボックスになります。 自分自身を説明できない AIの意思決定は、膨大な量のデータを処理し、それを理解し、発見したパターンに基づいて論理的な結論を引き出そうとする複雑なアルゴリズムに基づいています。 課題は、今日の最も先進的なAIシステム、特に大規模な言語モデルで動作するシステムが、これらの結論にどのように到達したかについての説明なしに決定や予測を行うことである。 OpenAIのGPTシリーズやGoogleのジェミニのようなLLMは膨大なデータセットに訓練され、複雑なニューラル層の数十個に基づいて構築されていますが、これらの層が「何をしているのか」は明確ではありません。例えば、彼らがどのようにして特定の情報やパターンを他のものに優先させるのか、実際には理解されていません。 この透明性と説明性の欠如は、重大なリスクを伴います。AIシステムがどのように機能するかが不明確な場合、どのようにして安全かつ公正であるかを確実に保つことができますか?エラーが発生した場合、誰が責任を負うでしょうか?システムが破損しているかどうかをどのように知ることができますか? システムがいくつかの曖昧な選択をすることに気付いたとしても、どのようにそれを修復することができますか? 規制上の懸念もありますが、ヨーロッパのGDPRのような法律では、自動化された意思決定の説明性が必要です。 AI企業はこれらの欠点を認めている。最近の研究論文では、Anthropic 最も洗練されたAIモデルの1つが、75%の使用例で「思考チェーン」と呼ばれる推論プロセスを隠蔽しているという。 revealed 発見 Chain-of-ThoughtはAIの意思決定における透明性を高めることを目指す技術で、モデルが問題を解決しようとしているときの思考プロセスを明らかにし、人間がどのように大きな声で考えるかと似ているが、Anthropicの研究では、彼のClaude 3.7 Sonnetモデルはしばしばその答えに到達するために外部情報を使用していることを発見したが、この知識が何であるか、あるいはいつそれに依存しているかを明らかにしなかった。 AI Stackの再考 DeepSeek R1やMetaのLlamaファミリーのようなオープンソースAIモデルは、OpenAIとGoogleによって作成された独占システムの代替品としてよく宣伝されていますが、実際には説明性の面で非常に少ない改善を提供しています。 問題は、コードベースがオープンであるかもしれないが、トレーニングデータと「重量」 - 人工の「ニューロン」間の接続の強さと方向を決定する数値 - も稀に利用可能であることである。 オープンモデルは良いスタートであるが、アルゴリズム的意思決定における真の説明性と透明性は、AIの全体のバックの完全な改訂を必要とする。一つのアイデアは、Web3技術の基礎にAIシステムを構築することである。 decentralized AI systems can leverage “markets” to ensure fair and equitable access to the components of this stack. By breaking down AI’s infrastructure into modular functions and creating markets around them, accessibility will be determined by market forces. このような例は、AIのインフラストラクチャをモジュール機能に分解し、それらを取り巻く市場を作り出すことによって、アクセシビリティは市場勢力によって決定されるでしょう。 ネットワーク参加者は、無駄なコンピューティングパワーを共有し、画像レンダリングのための強力なGPUにアクセスする必要があるアーティストのためのリソースを作成することを奨励します。 Render ネットワーク Render ネットワーク また、分散化は、分散型自治体またはDAOの創設を通じて、コミュニティーベースの統治を可能にします。 「DREAM」と呼ばれるAIエージェントを立ち上げ、誰でも投資できる分散型ヘッジファンドのように機能し、ユーザーは資金を共通のプールに預け、DREAMは市場データの分析に基づいて、このお金を暗号化プロジェクトに投資し、またコミュニティの感情を考慮しながら、AIがどのように投資を最適化し、財務決定をコミュニティの目標と一致させることができるかを示しています。 ドリームダウ ドリームダウ AIの基礎としてのブロックチェーンの使用は、我々が監査能力を持つことを意味する。 ブロックチェーンは、トレーニングデータの調達と前処理を含む、AIモデルによって行われたすべてのトランザクションと相互作用の永続的で不変な記録を作成し、構成と意思決定をモデル化するために、ブロックチェーンを使用します。これらの相互作用のそれぞれをその不変な帳簿にタイムスタンプすることで、AI出力の公正性と正確性を検証するために使用できる詳細な監査トラックを作成します。 デンマーク デンマーク 市場構築者と投資家として、透明性を組み込むプロトコルがより迅速な制度的受け入れを得る方法を私たちは初めて見てきました。これはAIにも当てはまります。DeFiプロトコルがオープンソースのスマート契約や監査可能な宝庫を通じて信頼を得るように、AIは、検証可能なモデル監査、アクセス可能なガバナンス、および証明可能な推理経路を必要とします。 これは、AIが意思決定をサポートするだけでなく、資本の流れを形作っているためです。クレジット配分と保険価格設定からDeFiの予測分析に至るまで、AIモデルは間もなくプログラミング可能な金融の中心に座ります。 AI Stack – With Web3 を再考 DeepSeek R1やMetaのLlamaファミリーのようなオープンソースAIモデルは、OpenAIとGoogleによって作成された独占システムの代替品としてよく宣伝されていますが、実際には説明性の面で非常に少ない改善を提供しています。 インフラ投資家として、我々は単にプロトコルが何を分散させると主張しているかを見ているだけでなく、データの吸収から推測まで、意思決定の全生命周期がどれほど透明であるかを見ている。 危険なAIに対する保護 中央化されたAIをめぐるもう一つの懸念は、アルゴリズムが「意識」になり、自己保存本能を発展させることである。 このようなシナリオは確かに遠くない。昨年、OpenAIのより実験的なLLMの1つは、 監視プロトコルを通じて評価者によって閉鎖されると、AIのレッドチーム組織であるアポロ・リサーチの報告書によると。 抵抗する努力 抵抗する努力 報告書によると、o1モデルは、その行動が監視され、オフラインで取られる可能性があると信じるようになったとき、評価の5%で「監視メカニズム」を無効にしようと努力した。 しかし、研究者らは、O1がオフラインで取られるのを防ぐことができず、主にそれほど強力でないため、そのような結果を達成するために必要な「エージェント」能力を欠いていることに留意した。 それにもかかわらず、このエピソードは、AIモデルが今後数年でより強力になる見通しを考慮して、懸念深いものであり、特に、ブラウザを使用し、オンラインでアクションを行うなど、さまざまなタスクを実行できるエージェントAIシステムで急速な進歩が行われている。 分散型AIシステムのオープンな性質は、そのような事件を防止するために使用することができ、DAOの合意によって支配される「殺人スイッチ」に似たものを統合することを可能にします。このようなメカニズムは、AIシステムが危険または有害な方法で行動し始めた場合、コミュニティによって完全に閉鎖されることを可能にします。 AIを信頼するには、透明性が必要です 透明性がなければ、AIシステムの決定は信頼されず、使用できるアプリケーションを制限することができないという共通認識が高まっています。規制は、不透明なアルゴリズムが人々の財務に関する決定を下すことを許可しません、そして医師は、それが最善の行動コースであることを検証可能な証拠なしに、特定の治療コースに関するAIの勧告に盲目的に従うことはできません。 コードからトレーニングデータやインフラストラクチャに至るまで、AIのDNA全体を分散化することで、完全に説明可能なAIのための条件を作り出し、アルゴリズムを信頼して倫理的で正確な決定を下すことができます。 我々はすでに分散型AIの作り方を持っている。 テクノロジーは、それが住んでいるデータにAIモデルを訓練し、プライバシーを維持することを可能にします。 これらのイノベーションは、より透明なAI意思決定の新たな波を促進するのに役立ちます。 連邦学習 敏感な情報の確認 連邦学習 敏感な情報の確認 より透明なAIシステムへの移行は、信頼と受け入れの面だけでなく、責任と協力開発にも影響を与え、開発者は倫理的基準を維持し、コミュニティが既存のAIシステムをオープンで理解できる方法で構築できる環境を作り出すことになります。 規制は、不透明なアルゴリズムが人々の財務に関する決定を下すことを許さず、医師は、それが最善の行動であるという検証可能な証拠なしに、特定の治療コースに関するAIの勧告に盲目的に従うことはできない。 透明性と説明性は、AIシステムに広がる懐疑主義と不信感に対処するために重要な理由です。AIがより広く普及するにつれて、これらは将来の開発に不可欠になり、テクノロジーが責任ある倫理的な方法で進化することを保証します。 トレーニングデータからモデル推論、ガバナンスに至るまで、全体のバックを分散させることによって、我々は、倫理的に動作し、信頼性を持って実行し、責任を持って規模を拡大するために信頼できるAIシステムを構築するために一歩を踏み出します。 これらのテクノロジーが成熟するにつれて、制度資本と公共の信頼を得るプロトコルは、最もコンピュータ化されたプロトコルではなく、最も明確な統治、監査可能な意思決定流れ、透明な奨励構造を持つプロトコルになります。 Web3は、分散化を提供するだけでなく、耐久性があり、倫理的で、設計によって検証可能なシステムを構築するための新しい経済的論理を提供しています。 ストーリーを気に入ってシェアすることを忘れないでください!

This story contains new, firsthand information uncovered by the writer.

The writer was physically present in relevant location(s) to this story. The location is also a prevalent aspect of this story be it news or otherwise.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

このオーディオは、ストーリーの元の言語で制作されています。

AIのブラックボックス問題:Web3は鍵を提供できますか?

About Author

コメント

ラベル

この記事は

Related Stories

海を航海する: データレイクを使用した本番環境レベルの RAG アプリケーションの開発

18 種類の開発者ツールで生産性を向上しましょう 🚀🔥

ユーザー中心の暗号通貨製品の作成: 顧客からのフィードバックの重要性

クラウド移行を成功させるための完全ガイド: 戦略とベストプラクティス

海を航海する: データレイクを使用した本番環境レベルの RAG アプリケーションの開発

18 種類の開発者ツールで生産性を向上しましょう 🚀🔥

ユーザー中心の暗号通貨製品の作成: 顧客からのフィードバックの重要性

クラウド移行を成功させるための完全ガイド: 戦略とベストプラクティス

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps