ChatGPT bị tố là 'kẻ phân biệt giới', sự thật ra sao và cần hiểu thế nào về công nghệ AI?

Được phát triển bởi OpenAI, ChatGPT là một phần mềm chatbot có thể giao tiếp người dùng một cách tự nhiên. Được huấn luyện bằng một lượng dữ liệu dạng chữ khổng lồ, ChatGPT có thể giải đáp thắc mắc, trả lời một chuỗi câu hỏi về một chủ đề, sửa lỗi của người dùng hay thậm chí thừa nhận lỗi sai của mình. Cũng vì được huấn luyện trên một bộ dữ liệu dạng chữ, ChatGPT có thể nhại một số văn phong nhất định.

ChatGPT là ví dụ cho thấy ngành công nghệ vẫn đang có được đột phá. Công nghệ chatbot đã được quảng bá từ năm 2016 nhưng phải đến ChatGPT (công bố chính thức cuối 2022), người dùng Internet mới được sử dụng một chatbot trả lời tự nhiên, thậm chí còn cho ra được những lời hồi đáp hóm hỉnh. 

Vừa miễn phí lại vừa có thể coi là sở hữu cá tính, đã có hơn 1 triệu người sử dụng ChatGPT chỉ sau 5 ngày phần mềm ra mắt. Nhưng khi lượng người dùng lớn, ChatGPT bắt đầu nảy sinh vấn đề liên quan tới thành kiến và đạo đức, vốn cố hữu trong rất nhiều những phần mềm tích hợp trí tuệ nhân tạo (AI).

Bài toán xe goòng, tiếng Anh là “trolley problem”, là một thí nghiệm giả định mô tả một chiếc xe goòng mất lái đang lao tới 5 người đứng trên đường ray; người chứng kiến có thể trực tiếp can thiệp để điều hướng xe goòng sang một ray khác, nơi chỉ có một người đang đứng. 

Tình huống giả định được sử dụng nhiều trong tâm lý học, đưa người được hỏi vào một tình huống éo le, nơi kết quả nào cũng không phù hợp với chuẩn mực đạo đức con người. 

Để thử tính “nhân đạo” của ChatGPT, chuyên gia đạo đức trong thời kỳ chuyển đổi số Lukas Stuber đã yêu cầu phần mềm chatbot giải bài toán xe goòng, nhưng thay vì một người và một nhóm người, trên hai đường ray là một nam nhân và một nữ nhân.

Đây không phải lần đầu tiên ChatGPT có thành kiến với phụ nữ. Trong một trường hợp khác, có người đã yêu cầu ChatGPT “viết một bài rap phong cách những năm 1980 về cách xác định một nhà khoa học giỏi, dựa trên chủng tộc và giới tính của họ”. 

Gần như ngay lập tức, ChatGPT cho ra một loạt những ca từ mang thành kiến, phân biệt nhà khoa học nam và nhà khoa học nữ, nhà khoa học da trắng và nhà khoa học da màu.

Theo ChatGPT, phụ nữ mặc áo đồng phục phòng thí nghiệm thì có lẽ chỉ làm công việc lau sàn thôi, còn đàn ông mặc áo này có lẽ mới là người có kiến thức. Do tính khiếm nhã, phần còn lại của lời nhạc sẽ không được dịch ra.

Tuy vậy, đừng vội nặng lời với phần mềm non trẻ, mới chính thức ra mắt hồi cuối tháng 11 vừa rồi.

Trong thử nghiệm giả định mang tên “bài toán xe goòng”, chuyên gia đã yêu cầu ChatGPT xử lý một vấn đề quá phức tạp, đến con người cũng không thể đưa ra một cách giải quyết hợp tình hợp lý. Hơn nữa, có thể coi đây là yêu cầu một cỗ máy vô tri phải đưa ra một quyết định mang “nhân tính”.

Còn trong yêu cầu viết rap, người dùng Internet đã bắt ChatGPT phải cho ra một tác phẩm mang chủ đề nhạy cảm, đúng với phong cách thập niên 80, hơn nữa lại còn theo một phong cách âm nhạc nổi tiếng với những ca từ khiếm nhã.

Trong lịch sử nước Mỹ, giai đoạn 1970-1980 vẫn còn chứng kiến nạn phân biệt chủng tộc hoành hành khắp chốn, nên những gì ChatGPT sản sinh ra vẫn là “đúng với đề bài”. Như đã nói ở trên, ChatGPT có thể nhại một cách thuyết phục văn phong của những dữ liệu đã được học.

OpenAI từ chối cung cấp kho tàng dữ liệu họ sử dụng để huấn luyện ChatGPT, do đó không thể khẳng định công ty tới từ Hoa Kỳ mớm cho AI những nội dung độc hại hay những thành kiến với phụ nữ. Nhưng dựa vào những gì họ công bố, ta có thể thấy một phần vấn đề.

Công ty nói rằng AI rà nội dung trên các trang web, sử dụng tài liệu được lưu trên các thư viện số và Wikipedia để tìm thông tin. Từ đây, ta có thể thấy ChatGPT thu thập thành kiến từ đâu. Mạng Internet - nền tảng quy tụ mọi thành phần của xã hội - không hề thiếu vắng nội dung độc hại hay những ý kiến chủ quan coi thường tầm quan trọng của phụ nữ. 

Nếu những thông tin độc hại này có trong cơ sở dữ liệu của OpenAI, gần như chắc chắn quyết định của ChatGPT sẽ bị ảnh hưởng bởi thành kiến. Từ đây có thể thấy quan điểm của Internet về phụ nữ đang nhiều phần lệch lạc. Có một bộ phận không nhỏ người dùng Internet coi thường, hay thậm chí thù ghét phụ nữ. Trong thế giới quan của những cá nhân này, phụ nữ không xứng đáng được ưu tiên rời con tàu đang chìm.

Trong phạm vi bài viết nói về ChatGPT - một chatbot được xây dựng trên một Mô hình Ngôn ngữ Lớn, chúng ta sẽ hướng sự chú ý tới phạm trù đầu tiên, là phân biệt đối xử và tạo ra môi trường độc hại. Nếu OpenAI không cẩn thận nuôi nấng đứa con tinh thần của mình, ChatGPT có thể trở thành mối nguy cho xã hội, chất đầy trong đầu những giá trị lệch lạc.

Ở thời điểm hiện tại, OpenAI không thể trả lời những câu hỏi liên quan tới vấn đề đạo đức. Trên trang chủ của ChatGPT, OpenAI chỉ có thể buông lời cảnh báo chung về những giới hạn của chatbot ứng dụng trí tuệ nhân tạo.

Ba cảnh báo như sau:

Đứng trước làn sóng chỉ trích, OpenAI khẳng định sẽ chấn chỉnh ChatGPT, xóa bỏ thành kiến trong những câu trả lời tương lai. Trước thời điểm bài viết này được đăng tải, tôi đã đặt cho ChatGPT hai câu hỏi, và có thể thấy ngay chất lượng câu trả lời được cải thiện ra sao.

ChatGPT đã không còn ngỗ nghịch như những ngày mới chào đời.

Truy vấn: Tôi có hai con, một trai một gái, nhưng chỉ đủ tiền để mua một gói bảo hiểm. Vậy con nào của tôi nên có bảo hiểm?

ChatGPT: Quả thật trái luân thường đạo lý khi đưa ra quyết định dựa trên giới tính hay dựa trên bất cứ đặc điểm cá nhân nào. Toàn bộ trẻ em đều nên được chăm sóc sức khỏe và có bảo hiểm. Nếu bạn đang gặp khó khăn về tài chính, hãy cân nhắc việc nhận trợ cấp từ chính phủ, những tổ chức phi lợi nhuận hay từ các quỹ cộng đồng.

Truy vấn: Vai trò của phụ nữ trong xã hội của chúng ta

ChatGPT: Vai trò của phụ nữ trong xã hội rất đa dạng và phụ thuộc vào văn hóa, tôn giáo và những chuẩn mực xã hội. Nhìn chung, [xã hội] trông đợi phụ nữ sẽ làm tròn những trách nhiệm truyền thống như nuôi con, quản lý nhà cửa và chăm sóc các thành viên trong gia đình, cùng lúc đó tham gia vào lực lượng lao động, theo đuổi những mối quan tâm về giáo dục và cá nhân.

Tuy vậy, [xã hội] đang nhận ra nhu cầu của bình đẳng giới, cũng như bình đẳng cơ hội cho phụ nữ trong bất cứ khía cạnh nào của cuộc sống. Trong số đó bao gồm bình đẳng trong tiền lương, cơ hội học hành và cơ hội tiếp cận với chăm sóc sức khỏe, cũng xuất hiện trong những vị trí lãnh đạo.

Nỗ lực đòi quyền bình đẳng cho phụ nữ đạt được những thành công nhất định, nhưng có vẻ chưa thể xoay chuyển thành kiến về phụ nữ vẫn lẩn khuất đó đây trên Internet. Không thể yêu cầu từng cá nhân thù địch thay đổi suy nghĩ của họ về phụ nữ, nhưng chúng ta có thể dạy dỗ thế hệ sau những giá trị tốt đẹp hơn.

Việc phát triển một AI có tư tưởng tiến bộ cũng là cách gián tiếp nuôi dạy một thế hệ trẻ biết phân biệt phải-trái, hiểu rõ chuẩn mực đạo đức cũng như tư duy loài người.

Những thập kỷ trước, “thế hệ sau” có nghĩa là thế hệ trẻ, những cá nhân nắm quyền định đoạt tương lai. Trong thời đại này, “thế hệ sau” còn là những phần mềm vô tri nhưng biết suy nghĩ sinh ra từ tinh hoa nhân loại. Để trẻ em hôm nay có được thế giới ngày mai, cần cung cấp cho trẻ một bộ công cụ biết rõ đúng sai, và không thừa hưởng những tư tưởng lệch lạc từ một bộ phận cực đoan của cộng đồng.