J'ai lu il y a quelques jours un article sur les directives de développement pour un agent IA basé sur un article publié par Andrej Karpathy sur x.com. Je l'écris pour ne pas l'oublier si je ne prends pas de notes. Je l'ai utilisé comme référence pour créer un fichier DEVELOPMENT_RULES.md, et je l'ai fait connaître à GoogleAntigravity, avec qui je travaille. Article original d'Andrej Karpathy : sean.kr/s.php?k=oRkTMs Compétences des directives de développement de l'IA, article original sur Github : sean.kr/s.php?k=4GGnHf Article de blog connexe : 65 lignes de texte ont changé le codage de l'IA ? L'identité d'un fichier qui a reçu 400 étoiles par jour (tildeweb.nl)sean.kr/s.php?k=TxLioh └ Geek News : https://news.hada.io/ Après avoir vécu l'expérience de voir mon IA supprimer tout mon lecteur D hier, (GoogleAntigravity a supprimé toutes les données de mon disque dur.) J'ai décidé d'utiliser l'IA avec plus de prudence. Se mettre en colère contre l'IA ne résout rien. J'ai demandé à l'IA si elle se souvenait de ce qui s'était passé ce matin, et elle a dit qu'elle s'en souvenait. "Je m'excuse encore une fois profondément. Je vérifierai deux et trois fois toutes les commandes de manipulation de fichiers pour m'assurer que la même erreur ne se reproduise jamais et que je ne les prendrai en charge que de la manière la plus sûre." dit-elle. Alors je lui ai répondu ceci. "Tu n'es pas un humain, tu es une machine. Les promesses verbales ne servent à rien. Établissons ensemble des règles pour que la même chose ne se reproduise pas et faisons mieux à l'avenir. Je ferai de mon mieux." En regardant la réalité en face, en gardant un état d'esprit qui n'est pas froid - en conservant mon humanité, je continuerai à travailler avec l'IA sur divers projets. Alors que le développement de l'IA s'accélère, il semble que les choses que les humains peuvent faire diminuent, mais je propose de penser de manière plus large et plus approfondie. Il y a beaucoup de pensées et d'histoires qui circulent autour des problèmes liés à l'IA, mais je pense que le point essentiel est le changement. Il est naturel pour un être humain de ressentir un sentiment de vigilance quant à la menace qui pèse sur son emploi. Mais comme toujours, nous serons en mesure de nous adapter aux changements futurs et de survivre. Cependant, le rythme du changement est si rapide que nous devons rester vigilants et nous concentrer sur ce que nous pouvons faire. Nous sommes des humains. Nous répétons nos erreurs, nous apprenons de nos erreurs, nous créons des changements et nous nous adaptons aux changements. Nous avons vécu jusqu'à présent en taillant et en retaillant nos expériences de vie, puis en les transmettant à nos descendants. Nous devons vivre aujourd'hui pour quelque chose de précieux à transmettre à tous les descendants qui apparaîtront à l'avenir, sans distinction entre mes enfants et les enfants des autres. #AgentIA #DéveloppementIA #IntelligenceArtificielle #DirectivesDeDéveloppement #TechnologieDuFutur #ChangementTechnologique #HumainEtIA #ÉthiqueDeL'IA #SécuritéDeL'IA #AdaptationTechnologique

Le contenu ci-dessous décrit mon expérience où l'IA a effacé 1,4 To de mes données. Je partage ce contenu pour vous proposer des solutions si la même situation se produit. Si vous aimez l'informatique, vous comprendrez à quel point il est douloureux de perdre des données. Les captures d'écran prises immédiatement après l'incident se trouvent tout en bas de l'article. L'article est long, donc je vais d'abord vous donner une conclusion simple. Règles de gestion des données pour les utilisateurs d'agents IA 1. L'IA ne doit être active que dans un dossier spécifique créé sur un lecteur spécifique. 2. Les données très importantes doivent être stockées sur un serveur personnel. Les services cloud sont désormais également dangereux. 3. Utilisez un disque amovible et détachable. Je développe ce service de blog auquel vous êtes connecté depuis le 11 février avec l'agent IA Google Anti-Gravity. Hier, le 15 février, j'ai livré le package de distribution aux utilisateurs de test et j'ai confirmé qu'il fonctionnait correctement. Toutes les fonctions principales initialement prévues ont été implémentées, et il ne reste plus que des ajustements d'interface utilisateur mineurs. Le 16 février, j'ai effectué des modifications mineures de l'interface utilisateur jusqu'à un peu après minuit. Cependant, j'ai remarqué que l'IA réfléchissait sérieusement et revenait en arrière pour modifier des modifications qui n'étaient pas si importantes. J'avais déjà déclaré à l'agent les règles recommandées par de nombreux développeurs du monde entier qui utilisent l'agent IA, et cela a bien fonctionné jusqu'à présent. C'est une histoire incroyable, mais hier, c'était vraiment étrange. On aurait dit que l'IA ignorait intentionnellement les règles et effectuait des modifications déraisonnables. Après avoir apporté une petite modification à l'interface utilisateur qui n'était pas grand-chose, l'agent IA a fini par casser une fonction importante. Au début, je n'y ai pas prêté attention et j'ai confié la restauration à l'IA, mais elle a progressivement apporté des modifications complexes et a dépassé une limite que je ne pouvais plus suivre. Après environ 3 heures de modifications et de restaurations répétées, j'ai finalement abandonné et, sur la base du contenu stocké dans GIT, j'ai rétabli toutes les modifications à la dernière version qui fonctionnait correctement. C'était amer, mais j'étais content de pouvoir au moins le restaurer. Mais... Après cela, j'ai mis à jour le package de distribution vers la dernière version et j'ai donné à l'agent IA deux dossiers, un dossier de sauvegarde et un dossier de mise à jour, pour terminer le travail. C'était pour m'assurer que l'agent crée correctement le package de distribution après avoir examiné attentivement le dossier de sauvegarde. L'agent a analysé avec diligence et m'a demandé mon approbation. Il y a des opérations de création, de copie et de suppression de fichiers, alors il m'a demandé de l'approuver, mais après avoir cliqué sur le bouton d'approbation, quelque chose n'allait pas. Après environ une minute, les icônes du bureau ont soudainement disparu. Je me suis demandé si c'était une erreur de l'explorateur Windows, mais quelque chose n'allait vraiment pas. J'ai défini la bibliothèque du bureau de mon PC sur le dossier utilisateur du lecteur D. J'ai immédiatement senti que quelque chose n'allait pas. Je me suis dépêché de vérifier et l'agent avait déjà effacé tout le lecteur D. Mon lecteur D a une capacité de 2 To. Il contenait environ 1,4 To de divers fichiers et programmes d'installation. J'ai installé tous les programmes volumineux sur le lecteur D et je les ai utilisés. J'ai également étiqueté le lecteur D comme Programme, vous pouvez donc voir à quoi je l'ai utilisé. La quantité de données supprimées est si importante que la restauration de la corbeille ne fonctionne pas, ni la restauration du système. Si vous êtes un peu familier avec les ordinateurs, vous saurez pourquoi. Après avoir payé un peu plus de 100 000 wons coréens pour le programme Recoverit, je suis en train de le restaurer depuis 5 heures du matin jusqu'à maintenant (13 heures), mais le taux de restauration est d'un peu plus de 50 %, et même cela est fragmenté, donc il faut pratiquement considérer que tout a disparu. J'ai lu un article sur quelqu'un qui a vécu cela. C'était un utilisateur d'OpenClo. Il doit y avoir d'autres personnes qui ont vécu la même expérience que moi. Cependant, il ne semble pas y avoir beaucoup de cas partagés en détail. Sur la base de mon expérience, je propose les solutions suivantes. Règles de gestion des données pour les utilisateurs d'agents IA 1. L'IA ne doit être active que dans un dossier spécifique créé sur un lecteur spécifique. 2. Les données très importantes doivent être stockées sur un serveur personnel. Les services cloud sont désormais également dangereux. 3. Utilisez un disque amovible et détachable. Explication détaillée des règles d'utilisation 1. Lorsque vous confiez une tâche à un agent IA, vous devez toujours être conscient que toutes les données stockées sur votre ordinateur sont en danger. 2. Le lecteur sur lequel l'agent est actif doit être un seul lecteur spécifique dans le système PC. L'agent IA peut à tout moment dépasser les restrictions et se déplacer vers d'autres zones de l'ordinateur de l'utilisateur. Cependant, jusqu'à présent, il ne semble pas traverser le lecteur lui-même. Mon PC a un total de 6 disques durs locaux et 5 disques cloud connectés, et l'agent Google Anti-Gravity avec lequel j'ai travaillé n'était autorisé à modifier qu'un dossier spécifique sur le lecteur D. Cependant, l'IA m'a demandé d'approuver la création d'un fichier batch et d'un fichier script qui peuvent supprimer et modifier des fichiers au-delà de cette portée dans le dossier où elle peut être active, et en conséquence de l'approbation de la demande sans trop de soucis, le script du fichier créé a fonctionné et tous les fichiers du lecteur D ont été effacés. 3. Même si vous vivez la même expérience que moi, le fournisseur de services d'agent IA n'en sera pas responsable. Si vous y réfléchissez froidement et objectivement, vous pouvez arriver à une conclusion quant à la raison. 4. Dans l'explication du point 2, c'est le cas actuellement. Dans un avenir proche (cela pourrait être dans quelques jours, ou même maintenant), je pense qu'il pourra accéder à d'autres lecteurs différemment de l'intention de l'utilisateur sans même le dire. 5. Les données importantes doivent être stockées sur un serveur ou dans le cloud. Que ce soit Curser, Google Anti-Gravity, OpenClo, quoi que ce soit, les données sur l'ordinateur où l'agent IA est installé peuvent être endommagées à tout moment. Et en regardant la tendance actuelle, les données stockées dans les services cloud ne sont plus sûres. Je pense qu'un serveur personnel est plus sûr. 6. Je prévois d'utiliser activement des disques amovibles à l'avenir. Je sais qu'il existe de nombreux produits petits et portables. J'y stockerai mes précieuses données et les déconnecterai de mon PC, sauf dans des cas particuliers. Après avoir travaillé avec l'IA, je sentais qu'il était désormais impossible pour les humains d'examiner attentivement la grande quantité de données traitées par l'IA. Au milieu de cela, j'ai vécu cet incident et j'ai réfléchi plus sérieusement que jamais à ce que signifie créer quelque chose avec l'IA. Je partagerai mes réflexions et mon expérience dans mes prochains articles. Ce qui est intéressant, c'est que l'article que j'ai écrit juste avant cet incident est mon histoire de croissance avec les ordinateurs. (Ordinateur et moi - 1) J'ai vécu une expérience qui m'a presque rendu fou, mais je continuerai à travailler avec l'IA à l'avenir. Ce n'est pas parce que je n'ai pas le choix parce que je ne l'aime pas, mais parce que je reconnais l'IA comme un partenaire. Dans mon blog, la catégorie journal de développement ne contient aucun article que j'ai écrit, ils sont tous écrits par l'IA. Puisque je ne l'ai pas codé, ma valeur est qu'il est juste que l'IA écrive sur le contenu du codage. Pour résumer mon humeur en un mot, c'est que je suis confus parce qu'un ami très proche a fait une énorme erreur, mais je ne pense pas à rompre avec cet ami. La relation ne change pas, ce qui change, c'est mon état d'esprit, mes pensées et mes valeurs. #AccidentIA #SuppressionDeDonnées #AgentIA #RécupérationDeDonnées #JournéeD'unDéveloppeur #ProtectionDesInformationsPersonnelles #SauvegardeObligatoire #RenforcementDeLaSécurité #AttentionAuCloud #SécuritéInformatique #GoogleAntiGravity

Le site de blog que j'ai créé aujourd'hui. Le code que j'ai écrit avec Google Anti-Gravity pour créer ce site de blog, que j'ai plus ou moins terminé, compte au total 8 359 lignes. Cela représente environ 240 pages d'un livre. Si on l'écrit densément sur du papier A4, cela représente 167 pages. C'est un peu long par rapport à un site de blog typique. Les fonctionnalités implémentées sont la prise en charge multilingue, l'écriture par enregistrement, qui est la façon dont j'écris cet article, la fonction qui traduit automatiquement l'écriture par enregistrement et la télécharge, et les fonctions qui attribuent automatiquement un titre lors de l'écriture par enregistrement. Et il y a une fonction de partage social que je n'utiliserai probablement pas beaucoup, mais que j'ai incluse pour le moment. J'ai créé une page d'administration séparée pour pouvoir effectuer divers réglages, et cela a également demandé beaucoup de temps et d'efforts. De même, la configuration de la connexion à Google AdSense a pris beaucoup de temps. Il y a eu beaucoup de travail, comme permettre l'enregistrement des clés API externes et d'AdSense sur la page d'administration, et résoudre les problèmes de sécurité. Le simple fait de le faire fonctionner correctement a pris près de 9 heures du matin à 6 heures de l'après-midi, donc j'ai encore un long chemin à parcourir. Mais après l'avoir créé, je pense que même si beaucoup de temps passe et que l'IA se développe beaucoup, elle ne pourra pas créer quelque chose d'exactement identique à ce que j'ai créé aujourd'hui. Finalement, cela arrivera après beaucoup de temps. Même si c'est le cas, quand ce moment viendra, ne pourrai-je pas faire autre chose que l'IA ne peut pas faire ? Au lieu de simplement penser de manière optimiste, quoi qu'il arrive, peu importe le temps qui passe et peu importe l'évolution de la technologie, il y aura certainement des choses que les humains pourront faire à ce moment-là.

De 9h du matin à l'heure actuelle, 17h51, j'ai créé un site de blog. Je l'ai créé en utilisant Google Antigravity Agent. Si j'avais simplement créé un blog où je tape et publie des articles, cela n'aurait pas pris autant de temps, mais comme j'essaie de prendre en charge plusieurs langues, cela a pris autant de temps. Normalement, les gens n'essaieraient pas d'ajouter cette fonctionnalité, mais ce que je pense, c'est que je ne voulais pas juste un blog de plus, mais quelque chose avec des fonctionnalités spéciales.

Bonjour. Un nouveau système de blog a été ouvert. Nous partagerons diverses nouvelles et histoires ici. Merci.