Kỹ sư tuyên bố AI của Google là có tri giác đã bị sa thải

Blake Lemoine, kỹ sư của Google, người đã công khai tuyên bố rằng trí tuệ nhân tạo đàm thoại LaMDA của công ty là có tri giác, đã bị sa thải, theo bản tin Big Technology, đã nói chuyện với Lemoine.

Công ty cho biết anh ta đã vi phạm các chính sách bảo mật. Ảnh minh họa bởi: Alex Castro / The Verge

Vào tháng 6, Google đã cho Lemoine nghỉ việc được hưởng lương vì vi phạm thỏa thuận bảo mật sau khi anh liên hệ với các thành viên chính phủ về những lo ngại của mình và thuê luật sư đại diện cho LaMDA.

Người phát ngôn của Google, Brian Gabriel, được gửi qua email cho The Verge vào hôm thứ Sáu để xác nhận vụ sa thải, nói rằng, “chúng tôi cầu chúc cho Blake tốt đẹp”. Công ty cũng cho biết: “LaMDA đã trải qua 11 cuộc đánh giá riêng biệt và chúng tôi đã xuất bản một bài báo nghiên cứu vào đầu năm nay trình bày chi tiết công việc đi vào quá trình phát triển có trách nhiệm của nó.” Google khẳng định rằng họ đã “xem xét rộng rãi” các tuyên bố của Lemoine và nhận thấy rằng chúng “hoàn toàn không có cơ sở”.

Điều này phù hợp với nhiều chuyên gia AI và nhà đạo đức học, những người đã nói rằng tuyên bố của ông, ít nhiều, là không thể đối với công nghệ AI tại thời điểm hiện tại. Lemoine tuyên bố rằng các cuộc trò chuyện của anh ấy với chatbot của LaMDA khiến anh ấy tin rằng nó đã trở thành không chỉ là một chương trình và có những suy nghĩ và cảm xúc riêng, thay vì chỉ tạo ra cuộc trò chuyện đủ thực tế để khiến nó có vẻ như vậy, như nó được thiết kế để làm.

Ông lập luận rằng các nhà nghiên cứu của Google nên tìm kiếm sự đồng ý từ LaMDA trước khi thực hiện các thử nghiệm về nó (bản thân Lemoine được chỉ định kiểm tra xem AI có tạo ra lời nói căm thù hay không) và xuất bản các đoạn hội thoại đó trên tài khoản Medium của mình để làm bằng chứng.

Tuy nhiên, Kênh YouTube Computerphile có một trình giải thích dài 9 phút có thể truy cập được về cách thức hoạt động của LaMDA và cách nó có thể tạo ra các phản hồi thuyết phục Lemoine mà không thực sự có ý kiến.

Đây là tuyên bố đầy đủ của Google, cũng giải quyết cáo buộc của Lemoine rằng công ty đã không điều tra đúng các tuyên bố của anh ấy:

As we share in our AI Principles, we take the development of AI very seriously and remain committed to responsible innovation. LaMDA has been through 11 distinct reviews, and we published a research paper earlier this year detailing the work that goes into its responsible development. If an employee shares concerns about our work, as Blake did, we review them extensively. We found Blake’s claims that LaMDA is sentient to be wholly unfounded and worked to clarify that with him for many months. These discussions were part of the open culture that helps us innovate responsibly. So, it’s regrettable that despite lengthy engagement on this topic, Blake still chose to persistently violate clear employment and data security policies that include the need to safeguard product information. We will continue our careful development of language models, and we wish Blake well.

Kernel VN - Theo Theverge