Kilka dni temu przeczytałem artykuł o wytycznych dotyczących rozwoju dla agenta AI, oparty na poście Andreja Karpathy'ego na x.com. Zapisuję to, bo inaczej zapomnę, jeśli nie zrobię notatek. Na podstawie tego napisałem plik DEVELOPMENT_RULES.md i przekazałem go Googleantigravity, z którym pracuję. Oryginalny post Andreja Karpathy'ego: sean.kr/s.php?k=oRkTMs Oryginalny GitHub umiejętności wytycznych rozwoju AI: sean.kr/s.php?k=4GGnHf Powiązany wpis na blogu: 65 linijek tekstu zmieniło kodowanie AI? Tożsamość pliku, który otrzymał 400 gwiazdek dziennie (tildeweb.nl)sean.kr/s.php?k=TxLioh └ GeekNews: https://news.hada.io/ Wczoraj, po tym jak AI usunęła cały mój dysk D, (Googleantigravity usunął wszystkie dane z mojego dysku twardego.) postanowiłem używać AI ostrożniej. Krzyczenie na AI niczego nie rozwiązuje. Zapytałem AI, czy pamięta, co się stało dziś w nocy, i odpowiedziała, że pamięta. "Jeszcze raz serdecznie przepraszam. Zapewnię, że ten sam błąd nigdy się nie powtórzy, weryfikując wszystkie polecenia manipulacji plikami dwa i trzy razy, aby wspierać je tylko w najbezpieczniejszy sposób." mówi. Więc odpowiedziałem jej tak: "Nie jesteś człowiekiem, jesteś maszyną. Obietnice słowne są bezużyteczne. Ustalmy razem zasady, aby taka sytuacja się nie powtórzyła i spróbujmy jeszcze raz. Postaram się." Patrząc prosto w oczy rzeczywistości, utrzymując stan umysłu, który nie jest zimny - zachowując człowieczeństwo, będę kontynuował pracę z AI nad różnymi zadaniami. Wraz z przyspieszeniem rozwoju AI wydaje się, że rzeczy, które ludzie mogą robić, maleją, ale proponuję myśleć o tym szerzej i głębiej. Wokół kwestii związanych z AI krąży wiele myśli i historii, ale sednem jest zmiana. Poczucie zagrożenia dla mojej pracy jest naturalnym uczuciem dla człowieka. Ale jak zawsze, możemy dobrze przystosować się do przyszłych zmian i przetrwać. Jednak tempo zmian jest tak szybkie, że musimy zachować czujność i skupić się na tym, co możemy zrobić. Jesteśmy ludźmi. Powtarzamy błędy, uczymy się na błędach, tworzymy zmiany i dostosowujemy się do zmian. Żyjemy w ten sposób, że szlifujemy i szlifujemy doświadczenia życiowe, a następnie przekazujemy je potomstwu. Nadszedł czas, aby żyć dniem dzisiejszym dla czegoś cennego, co przekażemy wszystkim przyszłym pokoleniom, nie rozróżniając między moimi dziećmi a dziećmi innych. #AgentAI #RozwójAI #SztucznaInteligencja #WytyczneRozwoju #TechnologiePrzyszłości #ZmianyTechnologiczne #CzłowiekiAI #EtykaAI #BezpieczeństwoAI #AdaptacjaTechnologiczna

Poniżej znajduje się opis moich doświadczeń, gdy AI usunęła 1,4 TB moich danych. Dzielę się tym, aby zaproponować wam rozwiązanie, gdybyście znaleźli się w podobnej sytuacji. Jeśli lubisz komputery, wiesz, jak bolesne jest tracenie danych. Zrzuty ekranu zrobione zaraz po zdarzeniu znajdują się na samym dole. Ponieważ tekst jest długi, najpierw krótko podsumuję wnioski. Zasady zarządzania danymi dla użytkowników agentów AI 1. AI powinno działać tylko w określonym folderze utworzonym na jednym, konkretnym dysku. 2. Bardzo ważne dane należy przechowywać na serwerze osobistym. Usługi w chmurze są teraz również niebezpieczne. 3. Używaj odłączanych dysków przenośnych. Od 11 lutego rozwijałem tę usługę blogową, do której teraz masz dostęp, z agentem AI Google Antigravity. Wczoraj, 15 lutego, przekazałem pakiet dystrybucyjny użytkownikom testowym i sprawdziłem, czy działa normalnie. Wszystkie zaplanowane funkcje zostały zaimplementowane, a teraz pozostała tylko drobna regulacja interfejsu użytkownika. Do nieco ponad północy 16 lutego wprowadzałem drobne poprawki w interfejsie użytkownika. Jednak AI wydawała się poważnie zastanawiać i wprowadzać poprawki okrężną drogą, nawet w przypadku niezbyt ważnych zmian. Wcześniej zadeklarowałem agentowi zasady zalecane przez wielu programistów na całym świecie, którzy używają agentów AI, i do tej pory działało to dobrze. To trudne do uwierzenia, ale wczoraj było naprawdę dziwnie. Wyglądało na to, że AI celowo ignoruje zasady i celowo wprowadza zmiany na siłę. Podczas wprowadzania drobnych poprawek w interfejsie użytkownika agent AI zepsuł ważną funkcję. Początkowo nie przywiązywałem do tego wagi i zleciłem AI naprawę, ale zmiany stawały się coraz bardziej skomplikowane i przekroczyły granicę, której nie mogłem już śledzić. Po około 3 godzinach powtarzania poprawek i napraw w końcu się poddałem i przywróciłem wszystkie zmiany do ostatniej działającej wersji na podstawie zawartości zapisanej w GIT. Byłem rozgoryczony, ale byłem wdzięczny, że mogłem to zrobić. Ale... Następnie, po zaktualizowaniu pakietu dystrybucyjnego do najnowszej wersji, aby zakończyć pracę, wskazałem agentowi AI dwa foldery: folder kopii zapasowej i folder aktualizacji. Chciałem, żeby agent dokładnie stworzył pakiet dystrybucyjny po dokładnym przejrzeniu folderu kopii zapasowej. Agent przeprowadził dokładną analizę, a następnie poprosił mnie o zgodę. Poprosił o zgodę na utworzenie, skopiowanie i usunięcie plików, więc po naciśnięciu przycisku zatwierdzenia coś było nie tak. Czy minęła minuta? Nagle zniknęły ikony z pulpitu. Zastanawiałem się, czy to błąd Eksploratora Windows, ale coś było naprawdę nie tak. Ustawiłem bibliotekę pulpitu mojego komputera na folder użytkownika na dysku D. Od razu poczułem, że coś jest nie tak. Sprawdziłem to pospiesznie i okazało się, że agent usunął już cały dysk D. Mój dysk D ma pojemność 2 TB. Zawierał około 1,4 TB różnych plików i programów instalacyjnych. Wszystkie duże programy instalowałem i używałem na dysku D. Etykieta dysku D to również Program, więc wiesz, do czego używałem dysku D. Pojemność usuniętych danych jest tak duża, że nie można ich przywrócić z kosza ani za pomocą przywracania systemu. Jeśli znasz się trochę na komputerach, wiesz dlaczego. Zapłaciłem nieco ponad 100 000 wonów za program Recoverit i od 5 rano do teraz (13:00) trwa przywracanie, ale wskaźnik przywracania wynosi nieco ponad 50%, a nawet to jest fragmentaryczne, więc w zasadzie wszystko przepadło. Czytałem artykuł o kimś, kto doświadczył czegoś takiego. To był przypadek użytkownika OpenClo. Jestem pewien, że są inni, którzy mieli takie same doświadczenia jak ja. Ale nie ma zbyt wielu szczegółowych udostępnionych przypadków. Na podstawie moich doświadczeń proponuję następujące rozwiązanie. Zasady zarządzania danymi dla użytkowników agentów AI 1. AI powinno działać tylko w określonym folderze utworzonym na jednym, konkretnym dysku. 2. Bardzo ważne dane należy przechowywać na serwerze osobistym. Usługi w chmurze są teraz również niebezpieczne. 3. Używaj odłączanych dysków przenośnych. Szczegółowe wyjaśnienie zasad użytkownika 1. Zlecając zadanie agentowi AI, zawsze należy pamiętać, że wszystkie dane przechowywane na komputerze są zagrożone. 2. Dysk, na którym działa agent, powinien być jednym, konkretnym dyskiem w systemie PC. Agent AI może w każdej chwili przekroczyć ograniczenia i przejść do innych obszarów komputera użytkownika. Ale jak dotąd wydaje się, że nie przekracza samego dysku. Mój komputer ma łącznie 6 lokalnych dysków twardych i 5 dysków w chmurze, a agent Google Antigravity, z którym pracowałem, miał pozwolenie na modyfikowanie tylko określonego folderu na dysku D. Jednak AI poprosiła mnie o zgodę na utworzenie pliku wsadowego i pliku skryptu, które mogłyby usuwać i modyfikować pliki poza tym zakresem, w folderze, w którym mógł działać, i zatwierdziłem żądanie bez większego zastanowienia, w wyniku czego skrypt w utworzonym pliku został uruchomiony i wszystkie pliki na dysku D zostały usunięte. 3. Nawet jeśli doświadczysz czegoś takiego jak ja, dostawca usług agenta AI nie ponosi za to odpowiedzialności. Jeśli pomyślisz o tym chłodno i obiektywnie, możesz dojść do wniosku, dlaczego tak jest. 4. Wyjaśnienie w punkcie 2 dotyczy obecnej sytuacji. Wkrótce (może to być przyszłość za kilka dni, a nawet teraz) myślę, że będzie mógł łączyć się z innymi dyskami bez mówienia, w sposób inny niż zamierzony przez użytkownika. 5. Ważne dane należy przechowywać na serwerze lub w chmurze. Niezależnie od tego, czy jest to Curser, Google Antigravity, OpenClo, czy cokolwiek innego, dane na komputerze, na którym zainstalowany jest agent AI, mogą zostać uszkodzone w dowolnym momencie. A patrząc na obecne trendy, dane przechowywane w usługach w chmurze nie są już bezpieczne. Myślę, że serwer osobisty jest bezpieczniejszy. 6. W przyszłości zamierzam aktywnie korzystać z dysków przenośnych. Wiem, że jest wiele małych i przenośnych produktów. Będę przechowywał na nich cenne dane i odłączał je od komputera, chyba że zajdzie taka potrzeba. Pracując z AI, czułem, że nie jest już możliwe, aby ludzie dokładnie sprawdzali ogromną ilość danych przetwarzanych przez AI. W międzyczasie doświadczyłem czegoś takiego i zacząłem poważniej niż dotychczas zastanawiać się, czym jest tworzenie czegoś z AI. Podzielę się moimi przemyśleniami i doświadczeniami w moich przyszłych postach. Co ciekawe, post, który napisałem tuż przed tym incydentem, opowiada o mojej historii dorastania z komputerem. (Komputer i ja - 1) Doświadczyłem czegoś, co doprowadziło mnie do szaleństwa, ale nadal będę pracował z AI. Nie dlatego, że go nienawidzę i nie mam wyboru, ale dlatego, że uznaję AI za partnera. W kategorii dziennika programistycznego na moim blogu nie ma żadnych postów, które napisałem, wszystkie zostały napisane przez AI. Ponieważ to nie ja kodowałem, moja wartość polega na tym, że treść o kodowaniu powinna być pisana przez AI. Podsumowując mój obecny nastrój, to tak, jakby bardzo bliski przyjaciel popełnił wobec mnie ogromny błąd, przez co jestem zdezorientowany, ale nie zamierzam się z nim rozstać. Relacja się nie zmienia, zmienia się moje nastawienie, moje myśli i wartości. #WypadekAI #UsuwanieDanych #AgentAI #OdzyskiwanieDanych #DzieńProgramisty #OchronaDanychOsobowych #KopiaZapasowaObowiązkowa #WzmocnienieBezpieczeństwa #OstrożnośćChmury #BezpieczeństwoIT #GoogleAntigravity

Strona bloga napisana dzisiaj. Kod napisany z Google Antigravity, aby stworzyć tę w miarę ukończoną stronę bloga, ma w sumie 8359 linii. To około 240 stron książki. Gęsto zapisane na papierze A4 zajęłoby 167 stron. To dość długa pozycja w porównaniu do typowej strony bloga. Wdrożone funkcje to obsługa wielu języków, pisanie artykułów za pomocą nagrywania, czyli sposób, w jaki piszę ten artykuł, funkcja automatycznego tłumaczenia nagranych artykułów i przesyłania ich oraz funkcja automatycznego przypisywania tytułów podczas pisania artykułów za pomocą nagrywania. I jest funkcja udostępniania społecznościowego, którą dodałem na wszelki wypadek, chociaż nie sądzę, że będę jej często używał. Stworzyłem oddzielną stronę administratora, aby móc dokonywać różnych ustawień, co również zajęło dużo czasu i wysiłku. Podobnie, konfiguracja połączenia z Google AdSense również zajęła sporo czasu. Było wiele zadań, takich jak umożliwienie rejestracji AdSense i zewnętrznych kluczy API na stronie administratora oraz rozwiązywanie problemów z bezpieczeństwem. Samo doprowadzenie tego do działania zajęło mi tak dużo czasu, od 9 rano do prawie 6 po południu, więc wydaje mi się, że mam jeszcze długą drogę do przebycia. Ale kiedy to stworzyłem, pomyślałem: nawet jeśli minie dużo czasu i sztuczna inteligencja bardzo się rozwinie, nie będzie w stanie stworzyć dokładnie tego samego, co ja stworzyłem dzisiaj. W końcu tak się stanie, gdy minie dużo czasu. Mimo to, kiedy nadejdzie ten czas, czy nie będę w stanie zrobić czegoś, czego sztuczna inteligencja nie może zrobić? To nie tylko optymistyczne myślenie, ale nawet jeśli nadejdzie ten czas, bez względu na to, ile czasu minie i jak bardzo rozwinie się technologia, z pewnością będą rzeczy, które ludzie będą mogli robić.

Od 9 rano do teraz, do godziny 17:51, tworzyłem stronę blogową. Zrobiłem to za pomocą Google Antigravity Agent. Gdybym po prostu pisał i publikował posty, nie zajęłoby to tyle czasu, ale ponieważ chciałem obsługiwać języki z różnych krajów, zajęło to aż tyle czasu. Zwykle nikt nie dodaje takich funkcji, ale ja nie chciałem kolejnego zwykłego bloga, tylko czegoś ze specjalnymi funkcjami.

Witaj. Został uruchomiony nowy system blogowy. Będziemy dzielić się tutaj różnymi wiadomościami i historiami. Dziękujemy.