千葉工業大学 AGI研究センター(AGI-RC)
Keeping human intent in the loop.
計画し、作り、評価して、次の行動を選ぶ。この生成と判断のループを、AIが自ら回す場面が増えています。ループが速く、長くなるほど、人が個々の出力を直接確かめることは難しくなります。
本センターは、AIが自律的に生成と判断を繰り返すサイクルに対して、人の意図と評価を反映させ、その反映を確かめ、保ち続ける技術の実現を目指します。対象は、エージェントシステム、AI駆動の科学研究(成果の創造と査読)、そしてAIを含む社会に及びます。
AIが作るものを置き換え続けるとき、人の意図と評価基準を、作られたものから切り離して保つことができれば、人は成果を一つずつ確かめなくても、それが意図に沿っているかを判断できます。本センターは、この問いにまずソフトウェア開発を舞台として取り組みます。
既存のソフトウェアには、意図・用語・評価基準の多くが暗黙のまま埋め込まれています。それらを取り出して足場(ハーネス)として明示し、AIが作り直しても意図どおりの働きが保たれるかを、参加者が互いに検証し合う形で確かめます。
01
News
X で発信を始めました
AGI研究センターの X アカウント(@AGI_ChibaTech)を開設しました。
02
Organization

所長
松尾 豊

副所長
山川 宏

研究員
田和辻 可昌
研究員
加藤 愛理

研究員
岡田 領
メンバーの紹介ページは準備中です。