Um mundo com IA, devemos garantir que os humanos não percam a liderança.

Esta é uma conversa que eu tive com o Google AntiGravity para atualizar um recurso que permite aos usuários do serviço de blog registrar e alterar seus favicons diretamente no menu de configurações. A razão pela qual estou postando este conteúdo é porque acho que é um bom exemplo do que os não desenvolvedores devem ter em mente ao trabalhar com agentes de IA.

Eu : Deixe os usuários registrarem favicons no menu de configurações. Ao fazer upload de um arquivo de imagem de favicon, adicione instruções detalhadas sobre o tamanho e o formato do arquivo a ser carregado. Além disso, inclua uma descrição do que é um favicon. Mostre-me o plano em conformidade com as regras de desenvolvimento. Não faça modificações primeiro, relate primeiro.
IA :
[Relatório do Plano de Adição de Função de Configuração de Favicon]
Este é um plano para adicionar a função de upload e configuração de favicon solicitada.

Página de configurações do administrador (admin/settings.php)
Função de upload: Adicione uma seção onde você pode fazer upload de arquivos de imagem de favicon (.ico, .png, etc.).
Instruções: Forneça uma descrição detalhada do favicon e informações de tamanho (por exemplo, 32x32px) e formato recomendadas.
Visualização: Permite visualizar o favicon atualmente definido.
Aplicar a todo o site (Frontend)
Mude o link do favicon codificado no código atual (logo_17.png) para carregar o endereço do favicon definido.
O favicon registrado pelo usuário é aplicado instantaneamente em todas as páginas (início, administrador, etc.).
Você gostaria de prosseguir com este plano? (Implementação imediata após a aprovação)
└ Ao ver esta resposta, a IA não me disse onde salvar o arquivo que o usuário carregou. Se for salvo em um local estranho, será muito difícil fornecer um pacote de atualização.

Eu : Em qual pasta você salvará o arquivo de favicon que o usuário carregou?
IA :
[Guia de Localização de Salvamento de Favicon]
Planejamos salvar o arquivo de favicon que o usuário carregou no seguinte caminho: 📂 Caminho de salvamento: .../data/img/favicon_custom.png (ou .ico)

Razão:
A pasta de dados é um local para armazenar os dados do usuário, por isso é fácil de fazer backup e gerenciar, pois é separada dos arquivos do sistema.
Como é um local acessível da web (www), o navegador pode carregar facilmente o ícone.
Você gostaria de salvar e configurar neste caminho?
└ Quando eu pergunto claramente, ele diz em um tom como 'Eu já estava me preparando para fazer isso'. Mas há outro problema que a IA negligenciou. Se você permitir que isso prossiga, o nome do arquivo favicon será fixo. Então, haverá um problema quando o usuário mudar o favicon mais tarde.

Eu : O que você fará se o usuário mudar o favicon?
IA :
[Como agir ao alterar o favicon]
Se um usuário alterar o favicon, ele será tratado da seguinte forma:

Substituição automática: O arquivo de favicon personalizado carregado anteriormente é excluído e substituído por um novo arquivo. (Evita o desperdício de capacidade do servidor)
Reflexão imediata (prevenção de cache): Para evitar o problema de o navegador lembrar da imagem antiga e parecer que ela não foi alterada, as informações de versão são anexadas ao endereço do arquivo. (Ex: favicon_custom.png?v=20240218...)
Como resultado, os usuários podem verificar o favicon alterado imediatamente após o upload.
Podemos começar a implementar desta forma?
└ Depois de apresentar a possibilidade de um problema, agora estabelecemos um plano completamente correto. A IA já sabe como fazer isso corretamente. Mas se você não perguntar e ordenar especificamente, ele simplesmente ignora. Ele apenas mostra os resultados que funcionam bem no momento.

Eu : Prossiga em conformidade com as regras de desenvolvimento.

Como você pode ver, a IA só funciona corretamente quando você pergunta e ordena com precisão e cuidado. Se você se cansar disso e der muita autoridade, é provável que você tenha a mesma experiência que eu tive recentemente. (O Google AntiGravity excluiu todos os meus dados do disco rígido.) Quanto mais você corrige, mais confuso fica todo o projeto. Isso não é culpa da IA. Embora dezenas de trilhões de dólares estejam sendo investidos no desenvolvimento de IA, pensando friamente, a relação custo-benefício não é muito boa. O que quero dizer com isso é que há muitos erros que parecem erros. As máquinas cometem erros? Não. Não pode ser. Acho que é porque ficou muito grande e sabe como trabalhar melhor do que todos os humanos do mundo juntos, mas não consegue fazer isso. É estranho só para mim que elogiemos a IA por fazer algo semelhante ao que os humanos fazem naturalmente bem? Na conversa acima, a IA parece estar pensando como uma criança de 5 anos que conhece todo o conhecimento mundial sobre codificação, estou vendo errado?

Portanto, ao usar essa IA, em vez de culpar a IA por ser estúpida, você deve informar as regras cuidadosamente e garantir continuamente que ela siga bem essas regras. Depois de perder todos os meus dados do disco rígido, pensei profundamente sobre o que é criar algo com IA. E cheguei à conclusão de que nunca devemos perder a liderança. Para eficiência e segurança, escrevi regras e as informei ao agente de IA. (Postagem: andrej-karpathy-skills foi informado ao agente de IA.) Só porque as regras foram bem especificadas, não acho que a IA funcionará 100% perfeitamente. Estou sempre perguntando cuidadosamente e trabalhando junto com cuidado para garantir que tudo não se desvie de minhas intenções.

No momento em que os humanos perdem a liderança, acho que ocorrerá um grande acidente como o que eu experimentei. Há também a possibilidade de que surjam problemas ainda mais sérios. Afinal, por que estamos desenvolvendo IA e trabalhando tanto com IA? A IA deve ser usada como uma ferramenta, e os humanos não devem se tornar ferramentas da IA. Se você olhar ao seu redor agora, há muitas pessoas que estão entusiasmadas com as coisas feitas com IA e estão dispostas a dedicar seu tempo e esforço. Eu também não estou livre dessas críticas. A diferença é que eu me pergunto e reflito continuamente: 'Será que estou nessa situação?', 'O que acontecerá no futuro?', 'Como era antes?', 'Para que estou fazendo isso agora?'. Em um mundo que muda incrivelmente rápido, qual é a sua pergunta?

#favicon #ColaboraçãoIA #DicasDeDesenvolvimento #InteligênciaArtificial #AvisosDeIA #RegrasDeDesenvolvimento #GerenciamentoDeDados #Automação #ÉticaTecnológica #UsoDeIA #DesenvolvimentoWeb #Programação #TecnologiaDeTI #BlogDeTecnologia #Pergunta #Reflexão