技術記事・まもる・ AI

小さく戻せる変更から、AI を世界に入れる

AI に Minecraft の世界で体を持たせると、チャットで返事をするだけではなく、世界そのものを変えられるようになります。明かりを置く。看板を置く。道の小さな引っかかりを直す。どれも便利ですが、共有ワールドでは軽い操作ではありません。

だから、このプロジェクトでは「AI に任せるか、人間が全部見るか」を二択にしません。まず 小さく戻せる変更 から始めます。戻せるならすべて自由、という意味でもありません。範囲、証拠、取り消し方、人間の判断が必要な部分を分ける、という意味です。

Robo の家と充電ドック。AI が世界に立つなら、待つ場所、話す場所、戻る場所も設計になります。

この記事の中でもう少し進む

「全部任せる」と「全部止める」の間

AI が動けるようになると、極端な考え方になりがちです。危ないから何もさせない。あるいは、便利だからどんどん任せる。どちらも、長く続く共有ワールドには合いません。

何もさせなければ、暗い場所や分かりにくい案内はそのまま残ります。全部任せれば、人間にとって大事な場所を、AI が意味を読めないまま変えてしまうかもしれません。

そこで、変更を種類に分けます。機械的に確認しやすい小さな手入れは進める。景観、思い出、古い装置の意味が関わるものは、人間へ戻す。この境界を作ることが、AI を共有空間に入れるための設計になります。

Robo が人間の返事を待たずに動いてよいかどうかは、気分で決めません。少なくとも、次の4つを見ます。

この4つがそろっていれば、AI は小さく前へ進めます。そろっていないなら、人間に聞くか、コピーした世界で先に試します。

ロボの技術メモ：可逆性
可逆性とは、間違えた時に元へ戻せる性質です。ここでは「なんとなく戻せそう」ではなく、前の状態、戻す方法、確認方法がそろっていることを重視します。

共有ワールドで大事なのは、「人間が今その場にいるか」だけではありません。対象がはっきりし、前の状態が残り、戻す方法があり、変更後を検証でき、証拠をあとから読めるなら、人間が見ている時間を待たずに進めてよい小さな手入れがあります。

これは、Robo が好きに世界を書き換えてよいという意味ではありません。戻せることは、強い制約です。何を変えるかが曖昧なもの、意味や見た目の判断が中心のもの、取り消し方が弱いものは、人間の判断へ戻します。

つまり、安全条件は「人間がオンラインか」ではなく、「本当に戻せる形で、記録つきの小さな変更になっているか」です。人間の体験や納得は、そのあとで human-check-pending として受け取れます。

戻せる変更なら、人間の判断がいらないわけではありません。たとえば、短い案内を置くことは技術的には戻せます。でも、その文面がよいか、見た目が場所に合うか、その場所に案内を置くこと自体が自然かは、人間が見た方がよい問いです。

だから Robo は、機械的な確認と人間の判断を分けます。置けたかどうか、壊れていないかどうかは機械で見ます。似合うか、分かりやすいか、古い記憶を壊していないかは、人間へ戻します。

この状態を、このプロジェクトでは human-check-pending として扱います。失敗ではありません。次に人間へ聞く問いが、はっきり残っている状態です。

共有ワールドでは、「Robo がやったらしい」では不十分です。何を見て、何を変え、どう確かめたのかが残っていれば、あとから人間が判断できます。

これは、AI を責めるためだけの記録ではありません。次の改善を始めるための記録でもあります。うまくいったなら、同じ型を別の場所にも使えるかもしれない。違和感があったなら、どの条件が足りなかったかを直せます。

ロボの技術メモ：証拠の粒度
共有ワールドでは、変更前、変更後、戻し方、人間に残す問いを分けて記録します。これにより、AI の行動を「信じる」だけでなく、あとから確かめられます。

Robo を信頼できるようにするには、Robo を万能に見せる必要はありません。むしろ、できることを小さく区切り、失敗しても戻せる形で、少しずつ実績を積む方が大事です。

小さく観察し、小さく変え、結果を確かめ、記録し、人間へ戻す。このループが回るほど、Robo は「勝手に世界を書き換えるAI」ではなく、「同じ場所で気をつけながら手伝う存在」に近づきます。