AI thân thiện là gì?

AI thân thiện là một thuật ngữ được sử dụng bởi các nhà nghiên cứu Trí tuệ nhân tạo (AI) để chỉ các hệ thống AI, nói chung, thực hiện các hành động hữu ích cho nhân loại hơn là trung lập hoặc có hại.Điều này không có nghĩa là sự vâng phục mù quáng - ngược lại, thuật ngữ này được sử dụng để mô tả các hệ thống AI thân thiện vì chúng muốn, không phải vì bất kỳ lực lượng áp đặt bên ngoài nào.Ngoài việc đề cập đến các hệ thống đã hoàn thành, AI thân thiện còn là tên của kỷ luật lý thuyết và kỹ thuật sẽ được sử dụng để tạo ra thành công của các hệ thống như vậy.là việc tạo ra AI thân thiện đủ thông minh để cải thiện mã nguồn của riêng mình mà không cần sự can thiệp của lập trình viên.Tác phẩm dài sách của ông về chủ đề này,

Tạo AI thân thiện, được xuất bản trực tuyến vào năm 2001, có lẽ là cách đối xử nghiêm ngặt đầu tiên của chủ đề ở bất cứ đâu.Yudkowsky gọi các lập luận từ tâm lý học tiến hóa và các ngành khoa học nhận thức khác để hỗ trợ cách tiếp cận của anh ấy đối với vấn đề AI thân thiện.Bị ràng buộc để sụp đổ theo các diễn giải thay thế, khi AI trở nên thông minh hơn con người, hoặc đơn giản là khi nó đạt được khả năng tự lập trình lại.Nhân loại cũng là một vấn đề trong AI.Bởi vì sự tiến hóa xây dựng các sinh vật có xu hướng ích kỷ, nhiều nhà tư tưởng cho rằng bất kỳ AI nào chúng ta xây dựng sẽ có cùng xu hướng, ngay lập tức hoặc sau khi trở nên đủ thông minh.Sự tiến hóa xây dựng các sinh vật với các hệ thống mục tiêu tự cho mình là không có cách nào khác.Các hệ thống mục tiêu vị tha đã mất nhiều triệu năm để phát triển, và chỉ làm như vậy trong các điều kiện trong đó các thành viên của cùng một bộ lạc có rất nhiều để đạt được bằng cách giúp đỡ nhau và rất nhiều để mất bằng cách bỏ bê việc làm như vậy.Nhưng nếu chúng ta thiết kế một tâm trí từ đầu, chúng ta có thể xây dựng nó mà không cần một hệ thống mục tiêu tự cho mình là trung tâm.Điều này sẽ không hạn chế AI - nó chỉ đơn giản là tạo ra một AI không có bản chất.Một số nhà nghiên cứu AI cho rằng chúng tôi không thể xác định các tính năng thiết kế cần thiết để thực hiện AI thân thiện cho đến khi chúng tôi có các hệ thống AI thông minh hơn để thử nghiệm.Những người khác cho rằng một cách tiếp cận lý thuyết hoàn toàn không chỉ có thể, mà còn cần thiết về mặt đạo đức trước khi bắt đầu một nỗ lực nghiêm túc ở AI nói chung.