Thế giới với AI, chúng ta phải đảm bảo con người không mất quyền kiểm soát.

Đây là nội dung cuộc trò chuyện giữa Google Antigravity và tôi để cập nhật chức năng cho phép người dùng dịch vụ blog trực tiếp đăng ký và thay đổi favicon trong menu cài đặt. Lý do tôi đăng nội dung này là vì tôi nghĩ đây là một ví dụ điển hình cho thấy những điều cần lưu ý khi người không phải là nhà phát triển làm việc với AI Agent.

Tôi : Hãy cho phép người dùng đăng ký favicon từ menu cài đặt. Khi tải lên tệp hình ảnh favicon, hãy thêm một thông báo chi tiết hướng dẫn kích thước và định dạng tệp phải tải lên. Ngoài ra, hãy viết một mô tả về favicon là gì. Tuân thủ các quy tắc phát triển và cho tôi xem kế hoạch. Đừng sửa đổi trước, hãy báo cáo trước.
AI :
[Báo cáo kế hoạch bổ sung chức năng cài đặt Favicon]
Đây là kế hoạch để thêm chức năng tải lên và cài đặt favicon mà bạn yêu cầu.

Trang cài đặt quản trị viên (admin/settings.php)
Chức năng tải lên: Thêm một phần để tải lên tệp hình ảnh favicon (.ico, .png, v.v.).
Thông báo hướng dẫn: Mô tả chi tiết về favicon và thông tin về kích thước (ví dụ: 32x32px) và định dạng được đề xuất.
Xem trước: Cho phép bạn xem trước favicon hiện được đặt.
Áp dụng cho toàn bộ trang web (Frontend)
Thay đổi liên kết favicon được mã hóa cứng (logo_17.png) trong mã hiện tại để tải địa chỉ favicon đã đặt.
Favicon do người dùng đăng ký sẽ được áp dụng ngay lập tức trên tất cả các trang (trang chủ, quản trị viên, v.v.).
Bạn có muốn tiến hành theo kế hoạch này không? (Triển khai ngay lập tức khi được phê duyệt)
└ Khi bạn thấy câu trả lời này, AI đã không cho tôi biết nơi lưu trữ các tệp mà người dùng đã tải lên. Nếu bạn lưu trữ nó ở một nơi sai trái, sẽ rất khó khăn khi cung cấp gói cập nhật.

Tôi : Bạn sẽ lưu trữ các tệp favicon mà người dùng tải lên trong thư mục nào?
AI :
[Hướng dẫn vị trí lưu trữ Favicon]
Chúng tôi dự định lưu trữ các tệp favicon mà người dùng tải lên theo đường dẫn sau: 📂 Đường dẫn lưu trữ: .../data/img/favicon_custom.png (hoặc .ico)

lý do:
Vì thư mục data là nơi lưu trữ dữ liệu của người dùng nên nó được tách biệt với các tệp hệ thống và dễ dàng sao lưu và quản lý.
Vì đây là một vị trí có thể truy cập được từ web (www) nên trình duyệt có thể dễ dàng tải biểu tượng.
Bạn có muốn lưu trữ và tiến hành cài đặt theo đường dẫn này không?
└ Khi tôi hỏi rõ ràng, anh ấy mới nói với giọng điệu 'Tôi đã chuẩn bị làm điều đó rồi'. Nhưng AI đã bỏ qua một vấn đề khác. Nếu bạn cho phép nó tiến hành như thế này, tên tệp favicon sẽ được cố định. Sau đó, sẽ có một vấn đề khi người dùng thay đổi favicon sau này.

Tôi : Điều gì sẽ xảy ra nếu người dùng thay đổi favicon?
AI :
[Cách hoạt động khi thay đổi Favicon]
Nếu người dùng thay đổi favicon, nó sẽ được xử lý như sau:

Thay thế tự động: Tệp favicon tùy chỉnh đã tải lên trước đó sẽ bị xóa và được thay thế bằng một tệp mới. (Ngăn chặn lãng phí dung lượng máy chủ)
Phản ánh ngay lập tức (ngăn chặn bộ nhớ cache): Để ngăn trình duyệt ghi nhớ hình ảnh cũ và có vẻ như nó không thay đổi, chúng tôi sẽ đính kèm thông tin phiên bản vào cuối địa chỉ tệp. (ví dụ: favicon_custom.png?v=20240218...)
Do đó, người dùng có thể kiểm tra favicon đã thay đổi ngay sau khi tải lên.
Chúng ta có nên bắt đầu triển khai theo cách này không?
└ Khi tôi đưa ra khả năng xảy ra sự cố, anh ấy mới đưa ra một kế hoạch hoàn toàn chính xác. AI đã biết cách làm cho nó chính xác. Nhưng nếu bạn không chỉ ra và ra lệnh chính xác, nó sẽ bỏ qua nó. Nó chỉ hiển thị một kết quả hoạt động tốt ngay lập tức.

Tôi : Tiến hành tuân thủ các quy tắc phát triển.

Như bạn có thể thấy, AI chỉ hoạt động đúng khi bạn hỏi và ra lệnh một cách chính xác và cẩn thận. Nếu bạn cảm thấy phiền phức và cho nó quá nhiều quyền, bạn có thể gặp phải trải nghiệm tương tự như những gì tôi đã trải qua gần đây. (Google Antigravity đã xóa tất cả dữ liệu trên ổ cứng của tôi.) Khi bạn tiếp tục sửa đổi, toàn bộ dự án sẽ trở nên lộn xộn. Đây không phải là lỗi của AI. Mặc dù AI đang được phát triển với hàng chục nghìn tỷ đô la, nhưng nếu bạn nghĩ một cách lạnh lùng, hiệu quả chi phí không tốt lắm. Ý tôi là, có quá nhiều lỗi có vẻ như là sai lầm. Máy móc có mắc lỗi không? Không. Nó không thể. Tôi nghĩ rằng nó quá lớn, nó biết cách làm việc tốt hơn tất cả mọi người trên thế giới cộng lại, nhưng nó không thể làm được điều đó. Có phải chỉ mình tôi cảm thấy kỳ lạ khi chúng ta khen ngợi AI vì đã làm được điều gì đó tương tự như con người làm rất tốt một cách tự nhiên? Trong cuộc trò chuyện trên, tôi nghĩ AI đang nghĩ như một đứa trẻ 5 tuổi biết tất cả kiến thức về mã hóa trên toàn thế giới, nhưng tôi có nhìn nhầm không?

Vì vậy, khi sử dụng AI như thế này, thay vì đổ lỗi cho AI vì sự ngu ngốc của nó, bạn nên cho nó biết các quy tắc một cách tỉ mỉ và liên tục đảm bảo rằng nó tuân thủ tốt các quy tắc đó. Sau khi mất tất cả dữ liệu trên ổ cứng, tôi đã suy nghĩ sâu sắc về việc tạo ra thứ gì đó với AI. Và tôi đã đi đến kết luận rằng tôi không bao giờ được để mất quyền kiểm soát. Tôi đã viết các quy tắc cho AI Agent để đảm bảo hiệu quả và an toàn. (Bài đăng: Tôi đã cho AI Agent biết andrej-karpathy-skills.) Ngay cả khi tôi đã chỉ định các quy tắc tốt, tôi không nghĩ rằng AI sẽ hoạt động hoàn hảo 100%. Tôi luôn đặt câu hỏi một cách cẩn thận và làm việc cùng nhau, cẩn thận để mọi công việc không đi chệch khỏi ý định của tôi.

Tôi nghĩ rằng khoảnh khắc con người mất quyền kiểm soát, một tai nạn lớn như những gì tôi đã trải qua sẽ xảy ra. Có khả năng có những vấn đề nghiêm trọng hơn. Cuối cùng, chúng ta phát triển AI và làm nhiều việc với AI để làm gì? Chúng ta nên sử dụng AI như một công cụ, và con người không nên trở thành công cụ của AI. Nếu bạn nhìn xung quanh ngay bây giờ, có rất nhiều người phát cuồng vì những thứ được tạo ra bởi AI và sẵn sàng dành thời gian và công sức của họ. Tôi cũng không thoát khỏi những lời chỉ trích đó. Sự khác biệt là tôi liên tục tự hỏi và suy ngẫm về bản thân, 'Có lẽ tôi không ở trong tình trạng đó?', 'Điều gì sẽ xảy ra trong tương lai?', 'Trước đây thì sao?', 'Tôi đang làm điều này để làm gì?' Câu hỏi của bạn là gì trong một thế giới đang thay đổi với tốc độ nhanh đến khó tin?

#파비콘 #AI협업 #개발팁 #인공지능 #AI주의사항 #개발규칙 #데이터관리 #자동화 #기술윤리 #AI활용 #웹개발 #프로그래밍 #IT기술 #기술블로그 #질문 #성찰
#Favicon #AIhợpTác #MẹoPhátTriển #TríTuệNhânTạo #LưuÝVềAI #QuyTắcPhátTriển #QuảnLýDữLiệu #TựĐộngHóa #ĐạoĐứcCôngNghệ #ỨngDụngAI #PhátTriểnWeb #LậpTrình #CôngNghệThôngTin #BlogCôngNghệ #CâuHỏi #SuyNgẫm