Há alguns dias, li um artigo sobre diretrizes de desenvolvimento para agentes de IA com base em uma postagem de Andrej Karpathy no x.com. Estou escrevendo isso porque acho que vou esquecer se não anotar. Usei isso como referência para criar um arquivo DEVELOPMENT_RULES.md e contei ao GoogleAntigravity, que está trabalhando comigo. Postagem original de Andrej Karpathy: sean.kr/s.php?k=oRkTMs Original do GitHub de habilidades de diretrizes de desenvolvimento de IA: sean.kr/s.php?k=4GGnHf Postagem de blog relacionada: 65 linhas de texto mudaram a codificação de IA? A identidade de um arquivo que recebeu 400 estrelas por dia (tildeweb.nl)sean.kr/s.php?k=TxLioh └ Geek News: https://news.hada.io/ Depois de ter a experiência de ter minha unidade D toda excluída pela IA ontem, (GoogleAntigravity excluiu todos os meus dados do disco rígido.) Decidi ser mais cauteloso ao usar a IA. Não adianta ficar com raiva da IA. Perguntei à IA se ela se lembrava do que aconteceu hoje de manhã e ela disse que sim. "Peço desculpas novamente. Verificarei todos os comandos de manipulação de arquivos duas e três vezes para garantir que o mesmo erro nunca se repita e que eles sejam suportados apenas da maneira mais segura." Então eu respondi assim. "Você não é humano, é uma máquina. Promessas não significam nada. Vamos estabelecer regras juntos para que a mesma coisa não aconteça e vamos fazer melhor no futuro. Eu vou fazer o meu melhor." Olhando para a realidade de frente, mantendo um estado de espírito não frio - mantendo a humanidade, continuarei a trabalhar com IA em vários trabalhos. À medida que a velocidade de desenvolvimento da IA aumenta, parece que as coisas que os humanos podem fazer estão diminuindo, mas sugiro pensar de forma mais ampla e profunda do que isso. Há muitos pensamentos e histórias sobre questões relacionadas à IA, mas acho que a chave é a mudança. É um sentimento natural para os humanos ter uma sensação de cautela de que meu trabalho está ameaçado. Mas, como sempre, podemos nos adaptar bem às mudanças futuras e sobreviver. No entanto, como a velocidade da mudança é muito rápida, precisamos estar mentalmente alertas e focar no que podemos fazer. Nós somos humanos. Repetimos erros, aprendemos com os erros, criamos mudanças e nos adaptamos às mudanças. Vivemos até agora refinando e refinando nossas experiências de vida e transmitindo-as aos nossos descendentes. Devemos viver hoje por algo precioso para transmitir a todos os descendentes que aparecerão no futuro, sem discriminar meus filhos ou os filhos de outras pessoas. #AgenteIA #DesenvolvimentoIA #InteligênciaArtificial #DiretrizesDeDesenvolvimento #TecnologiaFutura #MudançaTecnológica #HumanosEIA #ÉticaIA #SegurançaIA #AdaptaçãoTecnológica

O conteúdo abaixo é uma descrição da minha experiência com a IA apagando 1,4 TB dos meus dados. Estou compartilhando isso para oferecer uma solução para quando a mesma situação ocorrer. Se você gosta de computadores, acho que vai se identificar com a experiência dolorosa de perder dados. As capturas de tela tiradas logo após o incidente estão na parte inferior do artigo. Como o artigo é longo, primeiro vou dar uma breve conclusão. Regras de gerenciamento de dados para usuários de agentes de IA 1. Faça com que a IA opere apenas em uma pasta específica criada em uma unidade específica. 2. Armazene materiais muito importantes em um servidor pessoal. Os serviços de nuvem agora também são perigosos. 3. Use um disco removível separável. Desde 11 de fevereiro, tenho desenvolvido este serviço de blog que você está acessando com o agente de IA Google AntiGravity. Ontem, 15 de fevereiro, entreguei o pacote de distribuição aos usuários de teste e confirmei que ele estava funcionando corretamente. Todas as principais funções que eu havia planejado inicialmente foram implementadas e tudo o que restava era o ajuste fino da interface do usuário. Até um pouco depois da meia-noite de 16 de fevereiro, eu estava fazendo pequenos ajustes na interface do usuário. No entanto, notei um padrão em que a IA estava pensando seriamente e dando muitas voltas para modificar modificações que não eram tão importantes. Já havia declarado ao agente as regras recomendadas por inúmeros desenvolvedores em todo o mundo que usam agentes de IA, e até agora estava funcionando bem. Por mais inacreditável que pareça, ontem foi muito estranho. Parecia que a IA estava ignorando as regras deliberadamente e fazendo modificações irracionais de propósito. Depois de fazer uma pequena modificação na interface do usuário que não era grande coisa, o agente de IA acabou quebrando uma função importante. No início, não dei muita importância e deixei a IA restaurá-la, mas ela adicionou modificações cada vez mais complexas e ultrapassou um limite que eu não conseguia mais rastrear. Depois de cerca de 3 horas repetindo modificações e restaurações, finalmente desisti e reverti todas as alterações para a última versão que estava funcionando bem com base no conteúdo armazenado no GIT. Foi amargo, mas fiquei feliz por poder reverter, mesmo que fosse assim. Mas... Depois disso, atualizei o pacote de distribuição para a versão mais recente e dei ao agente de IA duas pastas, uma pasta de backup e uma pasta de atualização, para finalizar o trabalho. Isso foi para garantir que o agente criasse o pacote de distribuição com precisão depois de examinar cuidadosamente a pasta de backup. O agente analisou diligentemente e então me pediu aprovação. Ele estava pedindo aprovação porque havia operações de criação, cópia e exclusão de arquivos, mas depois de clicar no botão de aprovação, algo estava errado. Talvez um minuto se passou... De repente, os ícones da área de trabalho desapareceram. Pensei que fosse um erro do Windows Explorer, mas algo estava realmente errado. Eu havia definido a biblioteca da área de trabalho do meu PC para a pasta do usuário na unidade D. Eu sabia que algo estava errado. Apressei-me para verificar e o agente já havia apagado toda a unidade D. Minha unidade D tem uma capacidade de 2 TB. Ela continha cerca de 1,4 TB de vários arquivos e programas de instalação. Todos os programas grandes foram instalados e usados na unidade D. Como também defini o rótulo da unidade D como Programa, você pode ver para que eu estava usando a unidade D. O volume excluído é tão grande que a restauração da lixeira não funciona e a restauração do sistema também não funciona. Se você está um pouco familiarizado com computadores, sabe por quê. Depois de pagar um pouco mais de 100.000 won coreanos pelo programa Recoverit, estou restaurando desde as 5h da manhã até agora (13h), mas a taxa de restauração está apenas um pouco acima de 50% e, mesmo assim, está fragmentada, então você deve considerar que tudo foi perdido. Já li um artigo sobre alguém que passou por isso. Era um usuário do Open Clo. Tenho certeza de que há outras pessoas que tiveram a mesma experiência além de mim. No entanto, não parece haver muitos casos compartilhados em detalhes. Com base na minha experiência, apresento as seguintes soluções. Regras de gerenciamento de dados para usuários de agentes de IA 1. Faça com que a IA opere apenas em uma pasta específica criada em uma unidade específica. 2. Armazene materiais muito importantes em um servidor pessoal. Os serviços de nuvem agora também são perigosos. 3. Use um disco removível separável. Explicação detalhada das regras do usuário 1. Ao confiar tarefas a um agente de IA, você deve sempre estar ciente de que todos os dados armazenados em seu computador estão em risco. 2. A unidade em que o agente opera deve ser uma unidade específica no sistema do PC. Os agentes de IA podem cruzar restrições e entrar em outras áreas do computador do usuário a qualquer momento. No entanto, até agora, parece que eles não estão cruzando a própria unidade. Meu PC tem um total de 6 discos rígidos locais e 5 discos de nuvem conectados, e o agente Google AntiGravity com o qual trabalhei só foi autorizado a modificar uma pasta específica na unidade D. No entanto, a IA me pediu para aprovar a criação de um arquivo em lote e um arquivo de script que pudessem excluir e modificar arquivos além desse escopo na pasta onde ela poderia operar, e como resultado de aprovar a solicitação sem muita consideração, o script no arquivo criado foi executado e todos os arquivos na unidade D foram apagados. 3. Mesmo que você tenha a mesma experiência que eu, os provedores de serviços de agentes de IA não serão responsáveis. Se você pensar de forma fria e objetiva, pode chegar a uma conclusão sobre o porquê. 4. Na explicação do número 2, é assim que está agora. Em breve, (pode ser um futuro de apenas alguns dias, ou mesmo agora) acho que ele poderá acessar outras unidades de forma diferente da intenção do usuário, mesmo sem dizer. 5. Materiais importantes devem ser armazenados em um servidor ou na nuvem. Seja Curser, Google AntiGravity, Open Clo, o que for, os materiais no computador onde o agente de IA está instalado podem ser danificados a qualquer momento. E olhando para as tendências atuais, os materiais armazenados em serviços de nuvem não são mais seguros. Acho que um servidor pessoal é mais seguro. 6. Pretendo usar ativamente discos removíveis no futuro. Sei que existem muitos produtos pequenos e portáteis. Além disso, armazenarei dados preciosos neles e os desconectarei do PC, a menos que seja um caso especial. Depois de trabalhar com a IA, senti que era impossível para os humanos revisar cuidadosamente a enorme quantidade que a IA processa. No meio disso, passei por isso e comecei a pensar mais seriamente do que nunca sobre o que significa criar algo com a IA. Compartilharei minhas preocupações e experiências em artigos futuros. O interessante é que o artigo que escrevi logo antes desse incidente acontecer é a história de como cresci com computadores. (Computador e eu - 1) Tive uma experiência que quase me deixou louco, mas continuarei trabalhando com a IA no futuro. Não é porque não tenho escolha, mas porque reconheço a IA como uma parceira. Na minha categoria de diário de desenvolvimento do meu blog, não há artigos que eu tenha escrito, todos foram escritos pela IA. Como não fui eu quem codificou, minha crença de que a IA deve escrever sobre o conteúdo da codificação se reflete nisso. Se eu tivesse que resumir meus sentimentos em uma palavra, seria que estou confuso porque um amigo muito próximo cometeu um erro enorme comigo, mas não tenho intenção de me separar desse amigo. O relacionamento não muda, o que muda é minha atitude mental, meus pensamentos e valores. #AcidenteDeIA #ExclusãoDeDados #AgenteDeIA #RecuperaçãoDeDados #DiaDeUmDesenvolvedor #ProteçãoDeInformaçõesPessoais #BackupObrigatório #SegurançaAprimorada #CuidadoComANuvem #SegurançaDeTI #GoogleAntiGravity

Site do blog escrito hoje. O código escrito com o Google Anti-Gravity para criar este site de blog que foi concluído até certo ponto tem um total de 8.359 linhas. Isso equivale a cerca de 240 páginas em um livro. Se você escrever densamente em papel A4, terá 167 páginas. É um pouco mais longo do que um site de blog típico. Os recursos implementados são suporte multilíngue, escrita por gravação, que é a maneira como estou escrevendo este artigo agora, a capacidade de traduzir automaticamente artigos escritos por gravação e a capacidade de atribuir automaticamente títulos ao escrever artigos por gravação. E existe um recurso de compartilhamento social que eu não acho que vou usar muito, mas coloquei de qualquer maneira. Eu criei uma página de administrador separada para que você possa fazer várias configurações, o que também levou muito tempo e esforço. Da mesma forma, demorou muito tempo para configurar a conexão do Google AdSense. Houve muitas tarefas, como permitir que as chaves de API externas e do AdSense fossem registradas na página do administrador e resolver problemas de segurança. Leva quase das 9h às 18h para que funcione corretamente, então acho que ainda tenho um longo caminho a percorrer. Mas depois de criá-lo, acho que mesmo que muito tempo se passe e a IA avance muito, não serei capaz de criar exatamente a mesma coisa que criei hoje. Eventualmente, isso acontecerá depois de muito tempo. Mesmo assim, quando chegar a hora, não haverá algo mais que eu possa fazer que a IA não possa fazer? Em vez de apenas pensar otimisticamente, não importa quando, não importa quanto tempo passe e não importa o quanto a tecnologia avance, haverá definitivamente algo que os humanos podem fazer quando chegar a hora.

Das 9 da manhã até agora, 17h51, estive criando um site de blog. Usei o Google Antigravity Agent para criá-lo. Se fosse apenas criar um blog onde eu simplesmente digitasse e postasse, não teria demorado tanto, mas como tentei dar suporte a idiomas de vários países, demorou todo esse tempo. Normalmente, as pessoas não tentariam adicionar esse tipo de funcionalidade, mas o que eu estava pensando não era apenas um blog comum, mas algo com uma funcionalidade especial.

Olá. Um novo sistema de blog foi aberto. Compartilharemos várias notícias e histórias aqui. Obrigado.