Nhà nghiên cứu Microsoft dùng dê trong Age of Empires 2 để chứng minh AI không giống con người

Vì các mô hình ngôn ngữ lớn như ChatGPT có khả năng tạo ra văn bản nghe khá giống người, nhiều người bắt đầu tranh cãi liệu AI có đang sở hữu ý thức hay không. Hiện tại, có nhiều lý do để khẳng định AI không và sẽ không bao giờ có ý thức, nhưng quan điểm này vẫn tồn tại dai dẳng.

Một phần nguyên nhân là do xu hướng con người hay gán ghép các đặc điểm của mình cho những thứ không phải con người, phần khác là do các công ty AI thường mập mờ về vấn đề này. Một nhà nghiên cứu tại Microsoft đã quá ngán ngẩm với chuyện đó, nên anh quyết định chứng minh sự vô lý bằng cách xây dựng một mạng thần kinh trong Age of Empires 2, vận hành hoàn toàn bằng... dê.

Theo 404 Media, Adrian de Wynter đã tạo ra một mạng thần kinh ngay trong tựa game chiến thuật kinh điển này, sau đó viết một bài báo với tiêu đề 'Nếu LLM có đặc điểm giống người, thì Age of Empires II cũng vậy'.

Nếu bạn thấy tiêu đề này nghe thật nực cười, thì đó chính xác là mục đích của anh ấy. De Wynter chia sẻ với 404 Media rằng anh có thói quen làm mọi thứ trở nên cực đoan khi muốn nhấn mạnh một quan điểm, và chủ nghĩa phi lý vốn là điều bình thường trong triết học cũng như khoa học máy tính lý thuyết.

De Wynter đã sử dụng trình chỉnh sửa kịch bản của AoE 2 để xây dựng cổng logic NOT AND và một perceptron 1-bit, dùng các vật thể trong game để đại diện cho mã nhị phân. Cỏ đại diện cho số 0, cầu đại diện cho số 1, còn những chú dê đóng vai trò là các bit. Cách làm này khá giống với việc người chơi xây dựng mạng thần kinh bằng Redstone trong Minecraft, nhưng de Wynter chọn Age of Empires 2 vì nó ít ai ngờ tới hơn.

Bạn có thể xem video về mạng thần kinh chạy bằng dê của de Wynter trên trang GitHub của anh ấy. Với người xem thông thường, quá trình này trông khá khó hiểu, và đó chính là điều mà de Wynter muốn chỉ ra.

Về cơ bản, các quy trình diễn ra ở đây cũng chính là thứ vận hành những công cụ như ChatGPT hay Claude. Nhưng vì nền tảng ở đây là dê và cỏ thay vì ngôn ngữ tự nhiên, người ta sẽ không còn nhìn nhận hành vi hay kết quả đầu ra của nó là giống con người nữa.

De Wynter giải thích rằng mục đích của bài báo là để chứng minh chúng ta đang quá dễ dàng nhân hóa mọi thứ, và đôi khi những tuyên bố về khả năng của LLM bị thổi phồng quá mức. Anh dùng dê để làm rõ sự khác biệt giữa bản chất thực sự của LLM (mối quan hệ giữa các trọng số) và cách chúng ta cảm nhận về chúng.

Việc này khá quan trọng vì nếu mặc định LLM có đặc tính giống người mà không có bằng chứng, chúng ta sẽ gặp rắc rối trong nghiên cứu khoa học. Trong bài báo của mình, de Wynter cho biết anh đã phản biện hơn 300 bài báo khoa học máy tính trong hai năm qua và thấy hơn một nửa trong số đó bắt đầu bằng giả định rằng LLM có các đặc điểm giống con người.

De Wynter đề xuất rằng chúng ta cần ngừng giả định LLM hành xử như con người chỉ vì chúng được huấn luyện bằng ngôn ngữ tự nhiên. Thay vào đó, hãy thực hiện các thí nghiệm để nhìn nhận LLM đúng với bản chất của chúng, thay vì những gì chúng ta tự tưởng tượng ra.