AIと共にする世界、人間が主導権を失わないようにしなければなりません。

ブログサービスのユーザーが設定メニューでファビコンを直接登録して変更できる機能をアップデートするために、Google AntiGravityと私とが交わした会話の内容です。あえてこの内容を投稿する理由は、非開発者がAIエージェントと共同で作業を進める際に留意すべきことが何かを示す良い事例だと考えるからです。

私 : ファビコンを設定メニューでユーザーが登録できるようにして。ファビコンのイメージファイルをアップロードする際、アップロードするファイルのサイズとファイル形式がどうであるべきか案内する文言も詳細に追加して。加えて、ファビコンが何かについての説明も書いておいて。開発規則を遵守し、計画を見せて。修正を先にしないで、まず報告からして。
AI :
[ファビコン設定機能追加計画報告]
ご要望のファビコンアップロードおよび設定機能を追加するための計画です。

管理者設定ページ (admin/settings.php)
アップロード機能: ファビコンイメージファイル(.ico, .png など)をアップロードできるセクションを追加します。
案内文言: ファビコンに関する説明と推奨サイズ(32x32px など)、形式情報を詳細に記載します。
プレビュー: 現在設定されているファビコンをプレビューできるようにします。
全体サイト適用 (Frontend)
現在のコードにハードコーディングされたファビコンリンク(logo_17.png)を、設定されたファビコンアドレスを読み込むように変更します。
すべてのページ(ホーム、管理者など)でユーザーが登録したファビコンが即時適用されます。
この計画通りに進めますか？ (承認時即時実装)
└ この回答を見ると、AIは私にユーザーがアップロードしたファイルをどこに保存するかを教えてくれませんでした。とんでもない場所に保存すると、アップデートパッケージを提供する際に非常に困ることになります。

私 : ユーザーがアップロードしたファビコンファイルはどのフォルダに保存するの？
AI :
[ファビコン保存場所案内]
ユーザーがアップロードしたファビコンファイルは次のパスに保存する計画です: 📂 保存パス: .../data/img/favicon_custom.png (または .ico)

理由:
dataフォルダはユーザーのデータを保管する場所なので、システムファイルと分離され、バックアップおよび管理が容易です。
ウェブからアクセス可能な位置(www)なので、ブラウザがアイコンを簡単に読み込むことができます。
このパスに保存して設定を進めますか？
└ 私が明確に質問すると、その時になって「私はすでにそうしようと準備していました」という口調で言います。しかし、AIが見落とした問題がまたあります。このまま進めることを許可すると、ファビコンファイル名が固定されます。すると、後でユーザーがファビコンを変更したときに問題が発生します。

私 : ユーザーがファビコンを変更したらどうするの？
AI :
[ファビコン変更時の動作方式]
ユーザーがファビコンを変更すると、次のように処理されます:

自動交換: 既存のアップロードされたカスタムファビコンファイルは削除され、新しいファイルに交換されます。(サーバー容量の浪費防止)
即時反映 (キャッシュ防止): ブラウザが以前のイメージを記憶していて変更されていないように見える問題を避けるために、ファイルアドレスの後にバージョン情報を付加します。(例: favicon_custom.png?v=20240218...)
これにより、ユーザーはアップロード後すぐに変更されたファビコンを確認できます。
この方式で実装を開始してもよろしいですか？
└ 問題が発生する可能性について提示すると、今になって完全に正しい計画を立てます。どうすれば正確になるのかすでにAIは知っています。しかし、きちんと指摘して命令しなければ、そのまま見過ごします。当面うまく動作する結果だけを見せてくれます。

私 : 開発規則を遵守して進めて。

ご覧のとおり、AIは正確かつ細心の注意を払って質問し、命令しなければまともに動作しません。それが面倒になって権限を多く与えることになると、私が先日経験したことと同じような経験をすることになる可能性が高くなります。(Google AntiGravityが私のハードディスクデータをすべて削除しました。) 修正を重ねるほど、プロジェクト全体がめちゃくちゃになっていきます。これはAIのせいではありません。数十兆ドルが投入されて開発されているAIですが、冷静に考えると、費用対効果があまり良くありません。これはどういうことかというと、ミスのように見えるエラーがあまりにも頻繁に発生するということです。機械がミスをするでしょうか？いいえ、そんなことはありません。あまりにも巨大になりすぎて、どのように作業すべきか世界中のすべての人々を合わせたよりもよく知っているのに、そうすることができないのだと私は思います。人間なら当然うまくできることを、AIが似たようにやってのけると称賛を送ることが、私だけがおかしいと感じているのでしょうか？上記の会話でAIは、コーディングに関する全世界のすべての知識を知っている5歳の子供のように考えているように思えるのですが、私が見間違っているのでしょうか？

だから、このようなAIを使用するときは、AIが愚かだと責めるのではなく、綿密に規則を教え、継続的にその規則をよく守らせるようにしなければなりません。私はハードディスクデータをすべて失った後、AIと一緒に何かを作り上げていくことがどういうことなのかについて深く悩みました。そして、絶対に主導権を奪われてはならないという考えを持つようになりました。効率と安全のために、AIエージェントに規則を作成して教えました。(記事 : andrej-karpathy-skills をAIエージェントに教えました。) 規則をきちんと指定したからといって、AIが100%完璧に作業するとは全く思っていません。常に細心の注意を払って質問し、すべての作業で私の意図から外れないように注意しながら共同で作業しています。

人間が主導権を失う瞬間、私が経験したような大きな事故が発生すると私は思います。それよりも深刻な問題が生じる可能性も十分にあります。私たちがAIを開発し、AIと一緒に多くの作業をする理由は、結局何のためでしょうか？AIを道具として使用すべきであり、人間がAIの道具になってはなりません。今、周りを見渡すと、AIで作られたものに熱狂し、喜んで自分の時間と努力を捧げる人々が多いです。私もまた、そのような非難から自由ではありません。違う点があるとすれば、私は「私はもしかしてそのような状態ではないか？」、「今後はどうなるのだろうか？」、「以前はどうだったのだろうか？」、「私は今何のためにこれを行っているのだろうか？」と継続的に自問自答し、省察するということです。途方もなく速いスピードで変化する世界で、あなたの質問は何ですか？

#ファビコン #AIコラボレーション #開発のヒント #人工知能 #AI注意事項 #開発規則 #データ管理 #自動化 #技術倫理 #AI活用 #ウェブ開発 #プログラミング #IT技術 #技術ブログ #質問 #省察