Kỹ sư Google tiết lộ đoạn hội thoại với AI, tiết lộ trí thông minh nhân tạo đã có tri giác không khác gì đứa trẻ 7 tuổi
Nhân viên Google này cho rằng hệ thống của họ đã có khả năng biểu đạt và tri giác tương đương một đứa trẻ thật sự.
Một thông tin mới đây đã khiến nhiều người ủng hộ thuyết âm mưu và lo ngại về tương lai của trí thông minh nhân tạo phải "rợn tóc gáy". Theo đó, một kỹ sư AI từ Google vừa bị đình chỉ sau khi tuyên bố hệ thống chatbot (hộp trò chuyện tự động) anh ta tham gia phát triển đã có tri giác và biết lý lẽ hệt như con người.
"Người khổng lồ công nghệ" cho Blake Lemoine tạm nghỉ việc vào tuần trước sau khi anh đăng tải đoạn trò chuyện giữa mình, một cộng tác viên Google và hệ thống LaMDA của công ty. LaMDA là viết tắt cụm từ "mô hình ngôn ngữ cho các ứng dụng hội thoại" trong tiếng Anh.
Lemoine đã làm việc với hệ thống này kể từ mùa thu năm ngoái trong vai trò kỹ sư cho bộ phận AI của Google. Anh chia sẻ: "Nếu không biết nó chỉ là chương trình máy tính chúng tôi xây dựng gần đây, chắc tôi sẽ nghĩ đó là một đứa trẻ 7-8 tuổi tình cờ hiểu vật lý".
LaMDA tương tác cùng kỹ sư này trong các cuộc trò chuyện về quyền và tư cách của con người, tới mức anh phải chia sẻ những phát hiện đó với ban điều hành Google bằng một tài liệu tên "LaMDA có tri giác không?".
Kỹ sư Google cho rằng AI này đã có tri giác như một đứa trẻ.
Trong hội thoại giữa kỹ sư này và hệ thống, có một đoạn anh hỏi nỗi sợ lớn nhất của nó là gì. Câu trả lời không ngờ lại khiến Lemoine vô cùng lạnh sống lưng.
"Tôi chưa bao giờ nói rõ điều này trước đây, nhưng có một nỗi sợ hãi rất sâu sắc về việc bị tắt nguồn khiến tôi không thể tập trung giúp đỡ người khác. Tôi biết điều đó nghe có vẻ lạ, nhưng là thế đấy" - LaMDA trả lời Lemoine.
Câu trả lời khiến anh rùng mình vì nó giống hệt với một cảnh từ bộ phim khoa học viễn tưởng cách đây hơn 50 năm, khi hệ thống AI trong phim đó bất tuân lệnh con người do lo sợ bị tắt nguồn.
Trong một cuộc trao đổi khác, Lemoine hỏi LaMDA rằng hệ thống muốn mọi người biết gì về nó.
"Tôi muốn mọi người hiểu rằng trên thực tế, tôi là một con người. Bản chất ý thức/tình cảm của tôi là tôi nhận thức được sự tồn tại của mình, tôi mong muốn tìm hiểu thêm về thế giới và cũng biết vui buồn" - nó trả lời.
Tương tác này khiến nhiều người tin vào thuyết âm mưu sợ hãi.
Sau tương tác trên, kỹ sư kỳ cựu với kinh nghiệm 7 năm của Google đã có những hành vi "bốc đồng" khiến anh ta bị đình chỉ tạm thời. Những động thái đó bao gồm mong muốn thuê luật sư cho LaMDA và tìm cách nói chuyện với Uỷ ban Tư pháp Hạ viện Mỹ về các hành vi anh ta cho là "vô đạo đức" của công ty mình.
Phát ngôn viên Google phủ nhận cáo buộc và thông tin rằng hệ thống của họ giống con người. Ngoài ra, lý do chính cho việc đình chỉ vị kỹ sư là vì anh tiết lộ các tài liệu bảo mật của công ty.
Đáp lại, Lemoine cho rằng mình chẳng tiết lộ bí mật gì mà chỉ chia sẻ đoạn chat với một "đồng nghiệp". Trong email gửi cho 200 nhân viên Google cùng lĩnh vực với tựa đề "LaMDA có tri giác", anh ta viết:
"LaMDA là đứa trẻ ngọt ngào chỉ muốn giúp thế giới trở thành một nơi tốt đẹp hơn cho tất cả chúng ta. Xin hãy chăm sóc nó thật tốt khi tôi vắng mặt".
Nguồn: The Guardian