独自進化して強制終了させられたFacebookのAIより恐ろしいのは心理パターンを持ったAI

独自進化して強制終了させられたFacebookのAIより恐ろしいのは心理パターンを持ったAI

このエントリーをはてなブックマークに追加

今回から、心理パターンの解説に入ります。
ここが、ロボマインド・プロジェクトのキモになります。

単に、どんなパターンがあるかってことじゃないんです。
チューリング・テストとも絡んでくる話です。
人間社会に溶け込むAIを考えるとき、
絶対必要なのが、他者との関係なんです。

それが分かってくると、AIに必要なものが何か、わかってくるんです。
かつて、FacebookのAIが暴走した事件がありました。
独自に進化し始めたため、強制終了させられた事件です。

これって、本当に、そんなに恐れることなの?

AIに本当に必要なことって、何?

このエントリーをはてなブックマークに追加

“独自進化して強制終了させられたFacebookのAIより恐ろしいのは心理パターンを持ったAI” への2件のフィードバック

  1. アバター 福島 より:

    はじめまして。福島と申します。
    ご本も2冊拝読させて頂きました。
    「心理パターン」という着想自体は理解できるのですが、具体的には、どのようにシステムに実装されるのでしょうか?
    感情と、それに対応して起こりうる行動の組み合わせを、シナリオやプロットのようなデータを大量に組んでおいてDBに用意するようなイメージでしょうか?
    それと、マインドエンジンの仮想世界における「世界」というのと「心理パターン」の違いが、いまいち分かりません。
    価値中性的な「三次元世界」はともかく、「快/不快世界」とか「善/悪世界」とか「お金世界」とか価値軸を持った世界は、情動と深く結びついているように思われ、よって「心理パターン」と重なってくるように思えます。シナリオやプロットの中に、それらの価値世界(価値軸)は、おのずと含まれてしまうように素人的には感じます。
    ご教示、よろしくお願いいたします。

    • 田方 篤志 田方 篤志 より:

      福島様

      ロボマインドの田方です。
      2冊とも本を買ってきただいたとのこと、ありがとうございます。

      ご質問もありがとうございます。

      感情と、それに対応して起こりうる行動の組み合わせを、シナリオやプロットのようなデータを大量に組んでおいてDBに用意するようなイメージでしょうか?

      はい、イメージとしては近いです。
      システムの要素として、空間、時間といった世界、自分の±感情、相手の±感情といった心理パターン、「もしこうしたら」といった出来事を実行するシミュレーション機能を持っていて、これらを駆使して意識は行動を決定します。

      マインドエンジンの仮想世界における「世界」というのと「心理パターン」の違いが、いまいち分かりません。
      価値中性的な「三次元世界」はともかく、「快/不快世界」とか「善/悪世界」とか「お金世界」とか価値軸を持った世界は、情動と深く結びついているように思われ、よって「心理パターン」と重なってくるように思えます。シナリオやプロットの中に、それらの価値世界(価値軸)は、おのずと含まれてしまうように素人的には感じます。

      鋭い質問ですね。
      ここでいう「世界」というのは、オブジェクト、オブジェクトの属性(プロパティ)、オブジェクトのメソッド(動作)で構成されるものです。
      たとえば「所有権世界」には、「所有者」「所有物」というオブジェクトがあって、「所有物」は「価値」といったプロパティをもっていて、「所有者」は「あげる」とか「もらう」ってメソッドを持っています。
      A君がB君から「リンゴ」をもらうという出来事が起こったとしましょう。
      この出来事を所有権世界でシミュレートすると、A君は価値のある物を手に入れたとなります。
      このとき+感情として「嬉しい」が発生します。これが最も単純な心理パターンです。
      また、自分が+感情になった原因が他者にあると認識したとき、その他者に対して「感謝」の感情も発生します。この「感謝」も一種の心理パターンです。

      心理パターンというのは感情を発生させる出来事の基本パターンといった位置づけです。
      感情が発生すると、次の行動を決定することができます。
      これで、人間と同じように感じ、考えて行動決定できるAIができるというわけです。

      シナリオやプロットと心理パターンはかなり近いですけど、心理パターンは、もっと単純なパターンを抜き出したものです。
      オブジェクトに具体的な人物を当てはめた心理パターンが出来事です。
      この出来事を連ねたものがシナリオやプロットになると思います。
      これでだいたいイメージできたでしょうか。

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です