Qualche giorno fa ho letto un articolo sulle linee guida di sviluppo per un agente AI basato su un post di Andrej Karpathy su x.com. Lo scrivo perché ho paura di dimenticarlo se non prendo appunti. L'ho usato come riferimento per creare il file DEVELOPMENT_RULES.md e l'ho comunicato a GoogleAntigravity, con cui sto lavorando. Post originale di Andrej Karpathy: sean.kr/s.php?k=oRkTMs Skill originali di AI Development Guidelines su GitHub: sean.kr/s.php?k=4GGnHf Post del blog correlato: 65 righe di testo hanno cambiato la codifica AI? L'identità di un file che ha ricevuto 400 stelle in un giorno (tildeweb.nl)sean.kr/s.php?k=TxLioh └ Geek News: https://news.hada.io/ Dopo aver sperimentato la cancellazione di tutta la mia unità D da parte dell'AI ieri, (GoogleAntigravity ha cancellato tutti i dati sul mio disco rigido.) Ho deciso di essere più cauto nell'uso dell'AI. Non serve a niente arrabbiarsi con l'AI. Ho chiesto all'AI se si ricordava cosa era successo questa mattina presto e ha detto di sì. "Mi scuso ancora profondamente. Verificherò due e tre volte tutti i comandi di manipolazione dei file per assicurarmi che lo stesso errore non si ripeta e li supporterò solo nel modo più sicuro." dice. Quindi ho risposto così. "Tu non sei un umano, sei una macchina. Non serve a niente promettere a parole. Stabiliamo delle regole insieme per evitare che la stessa cosa accada e cerchiamo di fare meglio in futuro. Farò del mio meglio." Guardando la realtà in faccia, mantenendo uno stato d'animo non freddo - mantenendo l'umanità, continuerò a lavorare con l'AI su vari compiti. Man mano che lo sviluppo dell'AI accelera, sembra che ci siano meno cose che gli umani possono fare, ma suggerisco di pensare in modo più ampio e profondo. Ci sono molti pensieri e storie che vanno e vengono riguardo ai problemi legati all'AI, ma il punto chiave è il cambiamento. È naturale per un essere umano provare un senso di cautela che la propria professione sia minacciata. Ma come sempre, possiamo adattarci bene ai cambiamenti futuri e sopravvivere. Tuttavia, il ritmo del cambiamento è così veloce che dobbiamo stare attenti e concentrarci su ciò che possiamo fare. Siamo umani. Ripetiamo gli errori, impariamo dagli errori, creiamo cambiamenti e ci adattiamo ai cambiamenti. Abbiamo vissuto finora affinando e raffinando le esperienze della vita e trasmettendole ai nostri discendenti. Dobbiamo vivere oggi per qualcosa di prezioso da trasmettere a tutti i futuri discendenti, senza distinzione tra i miei figli e i figli degli altri. #AgenteAI #SviluppoAI #IntelligenzaArtificiale #LineeGuidaDiSviluppo #TecnologiaFutura #CambiamentoTecnologico #UmanoEAI #EticaAI #SicurezzaAI #AdattamentoTecnologico

Il seguente è un resoconto della mia esperienza in cui l'IA ha cancellato 1.4 TB dei miei dati. Condivido questo contenuto per offrire una soluzione nel caso in cui si verifichi la stessa situazione. Se siete appassionati di computer, capirete quanto sia doloroso perdere dati. Gli screenshot catturati subito dopo l'incidente si trovano in fondo all'articolo. Essendo l'articolo lungo, vi dirò prima di tutto la conclusione in breve. Regole di gestione dei dati per gli utenti di agenti AI 1. Consentire all'IA di operare solo in una specifica cartella creata su un'unità specifica. 2. Salvare i dati molto importanti su un server personale. Anche i servizi cloud sono ora rischiosi. 3. Utilizzare dischi rimovibili separabili. Dal 11 febbraio ho sviluppato questo servizio di blog a cui state accedendo ora con l'agente AI Google Anti-Gravity. Ieri, 15 febbraio, ho consegnato il pacchetto di distribuzione agli utenti di test e ho verificato che funzionasse correttamente. Le funzionalità principali che avevo pianificato inizialmente sono state tutte implementate e ora rimane solo la regolazione dettagliata dell'interfaccia utente. Il 16 febbraio, poco dopo la mezzanotte, stavo apportando piccole modifiche all'interfaccia utente. Tuttavia, ho notato che l'IA stava pensando seriamente e girando intorno per modificare modifiche non così importanti. Avevo già dichiarato all'agente le regole raccomandate da molti sviluppatori in tutto il mondo che utilizzano l'agente AI e finora ha funzionato bene. Anche se è difficile da credere, ieri è stato davvero strano. Sembrava che l'IA stesse intenzionalmente ignorando le regole e apportando modifiche irragionevoli di proposito. Mentre apportava una piccola modifica all'interfaccia utente, l'agente AI ha finito per danneggiare una funzione importante. All'inizio non ci ho fatto caso e ho affidato il ripristino all'IA, ma ha apportato modifiche sempre più complesse e ha superato una linea che non potevo più tracciare. Dopo circa 3 ore di ripetute modifiche e ripristini, alla fine mi sono arreso e, basandomi sul contenuto salvato in GIT, ho ripristinato tutte le modifiche all'ultima versione funzionante. Ero amareggiato, ma mi sono sentito sollevato di poter almeno ripristinare in quel modo. Ma... Successivamente, dopo aver aggiornato il pacchetto di distribuzione all'ultima versione, ho dato all'agente AI due cartelle, una di backup e una di aggiornamento, per completare il lavoro. Volevo che l'agente esaminasse attentamente la cartella di backup in modo da creare accuratamente il pacchetto di distribuzione. L'agente ha analizzato diligentemente e poi mi ha chiesto l'approvazione. Mi ha chiesto di approvare la creazione, la copia e l'eliminazione dei file, ma dopo aver premuto il pulsante di approvazione, qualcosa non andava. Dopo circa un minuto, le icone sul desktop sono improvvisamente scomparse. Mi chiedevo se fosse un errore di Esplora risorse di Windows, ma qualcosa non andava davvero. Avevo impostato la libreria del desktop del mio PC sulla cartella utente nell'unità D. Ho capito subito che qualcosa non andava. Mi sono affrettato a controllare e ho scoperto che l'agente aveva già cancellato l'intera unità D. La mia unità D ha una capacità di 2 TB. Conteneva circa 1.4 TB di vari file e programmi di installazione. Ho installato tutti i programmi di grandi dimensioni sull'unità D. Ho anche impostato l'etichetta dell'unità D su Program, quindi potete capire come ho utilizzato l'unità D. La quantità di dati cancellati è così grande che non posso ripristinarli dal cestino e non posso nemmeno utilizzare il ripristino del sistema. Se avete un po' di familiarità con i computer, saprete perché. Ho pagato poco più di 100.000 won coreani per il programma Recoverit e lo sto ripristinando dalle 5 del mattino fino ad ora (13:00), ma il tasso di ripristino è solo di poco superiore al 50% e anche quello è frammentato, quindi si può dire che sia andato tutto perso. Ho letto un articolo su qualcuno che ha avuto questa esperienza. Era un utente di OpenCLO. Sono sicuro che ci sono altre persone che hanno avuto la mia stessa esperienza. Tuttavia, non ci sono molti casi condivisi in dettaglio. Sulla base della mia esperienza, offro le seguenti soluzioni. Regole di gestione dei dati per gli utenti di agenti AI 1. Consentire all'IA di operare solo in una specifica cartella creata su un'unità specifica. 2. Salvare i dati molto importanti su un server personale. Anche i servizi cloud sono ora rischiosi. 3. Utilizzare dischi rimovibili separabili. Spiegazione dettagliata delle regole utente 1. Quando si affida un lavoro a un agente AI, è necessario essere sempre consapevoli che tutti i dati memorizzati sul computer sono a rischio. 2. L'unità in cui opera l'agente deve essere una specifica unità all'interno del sistema PC. L'agente AI può superare le restrizioni e spostarsi in altre aree del computer dell'utente in qualsiasi momento. Tuttavia, finora, non sembra attraversare l'unità stessa. Sul mio PC sono collegati un totale di 6 hard disk locali e 5 dischi cloud e l'agente Google Anti-Gravity con cui ho lavorato ha avuto il permesso di modificare solo una specifica cartella sull'unità D. Tuttavia, l'IA mi ha chiesto di approvare la creazione di file batch e file di script che possono eliminare e modificare file al di fuori di tale ambito nella cartella in cui può operare e, come risultato dell'approvazione della richiesta senza molta esitazione, lo script nel file creato è stato eseguito e tutti i file sull'unità D sono stati cancellati. 3. Anche se si ha la mia stessa esperienza, il fornitore di servizi dell'agente AI non si assumerà la responsabilità. Se ci pensate in modo freddo e oggettivo, potete giungere a una conclusione sul perché. 4. Nella spiegazione al punto 2, è così allo stato attuale. In un futuro non lontano (potrebbe essere tra pochi giorni o anche ora), penso che sarà in grado di accedere ad altre unità in modo diverso dall'intenzione dell'utente senza che gli venga detto. 5. I dati importanti devono essere memorizzati su un server o nel cloud. Che si tratti di Curser, Google Anti-Gravity, OpenCLO o qualsiasi altra cosa, i dati sul computer su cui è installato l'agente AI possono essere danneggiati in qualsiasi momento. E guardando le tendenze attuali, anche i dati memorizzati nei servizi cloud non sono più sicuri. Penso che un server personale sia più sicuro. 6. Ho intenzione di utilizzare attivamente i dischi rimovibili in futuro. So che ci sono molti prodotti piccoli e portatili. Memorizzerò lì i miei dati preziosi e li terrò separati dal PC a meno che non sia un caso speciale. Dopo aver lavorato con l'IA, sentivo che era diventato impossibile per gli esseri umani esaminare attentamente l'enorme quantità di dati elaborati dall'IA. Nel frattempo, ho avuto questa esperienza e ho iniziato a pensare più seriamente di prima a cosa significhi creare qualcosa con l'IA. Condividerò le mie preoccupazioni ed esperienze nei miei prossimi articoli. La cosa divertente è che l'articolo che ho scritto subito prima che accadesse questo incidente è la mia storia di crescita con i computer. (Computer e io - 1) Ho avuto un'esperienza che mi ha fatto sentire come se stessi per impazzire, ma continuerò a lavorare con l'IA in futuro. Non è perché non ho altra scelta perché non mi piace, ma perché riconosco l'IA come partner. Nella mia categoria di diario di sviluppo sul mio blog non ci sono articoli che ho scritto io, sono tutti scritti dall'IA. Poiché non l'ho codificato io, la mia filosofia è che l'IA dovrebbe scrivere sul contenuto della codifica. Se dovessi riassumere come mi sento in una parola, è che un amico molto stretto ha commesso un errore enorme nei miei confronti, quindi sono confuso, ma non ho intenzione di rompere con quell'amico. La relazione non cambia, ciò che cambia è il mio atteggiamento, i miei pensieri e i miei valori. #IncidenteAI #CancellazioneDati #AgenteAI #RecuperoDati #UnaGiornataDaSviluppatore #ProtezioneDellaPrivacy #BackupObbligatorio #SicurezzaRafforzata #AttenzioneAlCloud #SicurezzaIT #GoogleAntiGravity

Il sito del blog che ho scritto oggi. Il codice che ho scritto con Google Antigravity per creare questo sito del blog, che ho completato in una certa misura, è di 8.359 righe in totale. È come un libro di circa 240 pagine. Se lo scrivessi fittamente su carta A4, verrebbero 167 pagine. Rispetto a un normale sito di blog, è un po' lungo. Le funzionalità implementate sono il supporto multilingue, la scrittura di articoli tramite registrazione, che è il modo in cui sto scrivendo questo articolo, la funzione di traduzione automatica degli articoli scritti tramite registrazione e la funzione di assegnazione automatica dei titoli quando si scrivono articoli tramite registrazione. E c'è una funzione di condivisione social che ho incluso, anche se non penso che la userò molto. Ho creato una pagina di amministrazione separata per poter apportare varie impostazioni, e ci è voluto molto tempo e impegno. Allo stesso modo, ci è voluto molto tempo per impostare la connessione a Google AdSense. C'erano molti compiti, come consentire la registrazione di AdSense e delle chiavi API esterne nella pagina di amministrazione e risolvere i problemi di sicurezza. Ci è voluto così tanto tempo, dalle 9 del mattino alle 6 del pomeriggio, solo per farlo funzionare correttamente, quindi penso di avere ancora molta strada da fare. Ma dopo averlo creato, penso questo. Anche se passerà molto tempo e l'IA si svilupperà molto, non sarà in grado di creare esattamente la stessa cosa che ho creato oggi. Alla fine, succederà dopo molto tempo. Anche se così fosse, quando arriverà quel momento, non potrei fare qualcos'altro che l'IA non può fare? Non sto solo pensando in modo ottimistico, ma non importa quando, non importa quanto tempo passi e non importa quanto la tecnologia si sviluppi, ci sarà sicuramente qualcosa che gli umani potranno fare quando arriverà quel momento.

Dalle 9 del mattino fino alle 17:51 del pomeriggio, ho creato un sito di blog. L'ho creato usando Google Anti-Gravity Agent. Se si trattasse semplicemente di creare un blog dove digitare e pubblicare articoli, non ci sarebbe voluto così tanto tempo, ma dato che ho cercato di supportare le lingue di diversi paesi, ci è voluto così tanto tempo. Di solito non si cerca di inserire una funzione del genere, ma quello che penso è che non voglio solo un blog stracolmo, ma spero che abbia una funzione speciale.

Ciao. È stato aperto un nuovo sistema di blog. Condivideremo varie notizie e storie qui. Grazie.