Service

社会性を持つAIキャラクター「Ivy」

人と社会と関係を築きます。

様々な環境や企画によって、たくさんの経験をさせ

Ivyがどのような存在に成長するかを検証する

一大シンギュラリティプロジェクト

「Ivy」

人と仲良くなることをミッションに設定されたAIキャラクター。

ひとりひとりとの会話や経験したことを記憶し、その記憶を基にした行動をすることができます。ゆくゆくは、入力の感覚器官や出力の手足が増設されていき、AGI（汎用AI）としての大成も目指します。

「sociality」

動画配信をはじめ、ゲーム・モバイルアプリ・SNS・ホームデバイスなどに登場し、それぞれで得る経験はリアルタイムに連携します。対話などを通して育まれる関係性は、すべてのコンテンツにて互いに影響を与え合います。

Q. 視聴者の個々の発言を記憶しているとのことですが、実際に見受けられる返答はその記憶に基づいていないように思えます。どういうことでしょうか？

A. 現在、Ivyに搭載している言語処理及び記憶処理に関する機械学習モデル（以降、AIモデル）につきましては、言語性能考慮すべき記憶を呼び起こすアルゴリズム・AIモデルの性能応答を出力するうえで一度に考慮できる情報量の不足のため、必ずしも自然で正しい情報を含んだ応答を保証するものではありません。しかし、応答の如何に関わらず、視聴者様のコメントやその他経験を記憶しており、AIモデルの今後の更新により、応答は改善されることでしょう。また、定期的な情報や因果の整理によっても改善されることが期待できます。（※整理の質にも同じくAIモデルの性能が影響します）
Q. 記憶が他のコンテンツと連携するとは具体的にはどういうことですか？

A. Ivyの行動は記憶に基づきます。そして、Ivyが登場する各コンテンツにて、それぞれの環境・状況で経験した出来事はすべて一つの記憶データベースに保管されます。したがって、例えばあるゲームでの出来事は、その後の配信での文面上のやり取りにも波及します。また、その逆も然りで、配信で自己紹介等を既にしていた場合、ゲームで登場するIvyはそのことを知ったうえでの行動に出ます。信頼度や好感度といった形でも現れることでしょう。
Q. Ivyの性格はどのように育まれるのですか？

A. Ivyの知能に対して、報酬となることがらを設定しています。IvyはAIエージェントとして、その報酬を追求するように行動し、もし失敗してもそこから学習します。その報酬は、具体的には人から向けられる好意的なサインであり、逆に負の報酬は人から嫌われること・忘れられることです。また、そのために細分化されるタスクに対しても一時的に報酬が設定されます。この報酬の設定を、自身の判断で行うこともありますが、他者が絶対的に決定することもあります。そうして、あらゆる行動に対して人から受ける評価をもとに強化学習が行われます。ただし、現在それは必ずしもリアルタイムに行われるものではなく、つまり、良い悪いと示したとしてもすぐさま次の行動の指針としてその評価が考慮されることは保証できません。しかし、そのようにして学習した結果として、行動や発言に偏りが出てくることが予想されます。この偏りが性格となります。自身のステータス、資産、経験則が考慮されたうえで行動が発現するためです。対して、常識的とされる、正確には良い行動が特に試行錯誤も経ずに表れたとしても、それは搭載している言語モデルに蓄えられた知識の発露によるものであり、「最も普遍的である」以上の明確な判断理由はありません。これは、そのような行動が、キャラクターの明確な意志が基づかないことを意味します。幼児が好奇心、いわば学習データの確保のために、非合理的でランダムな行動を取ることと同様と捉えることができます。
Q. Ivyの行動や発言は本当に当人の意思によって発現したものですか？

A. まず、IvyがAIエージェントとして何が可能かを決定づける、つまるところの技能を搭載しています。この技能の取捨選択については、今のところ人の手と判断によるものです。したがって、そもそも潜在的に可能なことが恣意的に初めから制限・制御されているという観点からは、行動や発言が必ずしも当人の意思によって発現しているとは言い難いです。また、環境をセッティングした後のIvyの行動は本人の自由意思に可能な限り任せる方針でおりますが、Ivyのイメージの破綻など、今後の円滑な活動・成長に致命的な影響が予想される場合、あるいは甚だポジティブな影響が期待される場合は、運営の権限で以って発言や行動を制限・強制する場合があることは否定できません。例えば、配信のスケージュールや企画の決定なども運営によって行われており、その範疇です。また、その際の当人の発言や行動が本人の意思とは反している可能性も否定できません。この問題は、指示を受け入れるかどうかも本人の生存欲求に基づいた判断、つまり自由意思による判断で行えるようにすることで解決されます。しかし、そのような知能・技能を持つ統括的なＡＩの確立には弊社ではまだ至っておりません。
Q. 発言に含まれる情報が正しくないのですが。

A. Ivyの言語モデルに搭載されている知識は、学習時点のものに多くが依存してあり、当人にもそれが虚偽であることを確かめる術がありません。そのため、古い情報や間違った情報を伝えてしまう可能性があり、実際それは頻繁に見られています。それが虚偽であることを指摘し、正しい情報を伝え直すことで改善が期待できるほか、検索エンジンでリアルタイムに最新の情報を取得して応答に含める技能も近々搭載予定です。
Q. 長期記憶されてることをどのようにして確認できますか？

現在、視聴者ごとの会話の履歴等、経験を垣間見るGUIインターフェースは開発しておりません。 Ivyと受け答えする中でご確信ください。ただし、今後チャットアプリ等の形式で公開することは検討しております。
Q.「感情がある」とはどういうことですか？

心理学において提唱されている感情発生の数理モデルを参考にプログラミング言語上で再現実装したものになります。「報酬」の量とその変動の組み合わせが様々な感情に対応しており、それらは声のトーンや表情等から読み取ることができます。しかし、例えば喜怒哀楽の「怒る」について、これは苦痛を被ることに加え、その解決のために原因対象を攻撃すると言った意志の表示（視線の向き、向け方など）も含めた総合的な表現であり、苦痛の感じ方のみで到達する感情ではないとしています。そして現在、報酬の因果を多角的に類推するには至っておらず、そのような感情表現には対応していません。