Vì sao AI kẹt trong vòng lặp vô tận?

Lý do thường bị bỏ qua khiến ý thức AI khó có thể sớm xuất hiện.

Chúng tôi hạ cánh đúng giờ ở sân bay Madrid-Barajas, nhưng quá trình xuống máy bay bị trì hoãn. Thì ra hệ thống trí tuệ nhân tạo mới điều khiển cầu ống dẫn khách ở đây. Không cần con người – cho đến khi cần. Qua cửa sổ, tôi thấy cầu ống do AI điều khiển liên tục tiến gần máy bay rồi lại rụt lại, chao đảo trong làn gió sáng sớm, lặp đi lặp lại trong một vòng lặp vô tận. Cuối cùng, một nhân viên con người đến, ngay lập tức nhìn ra và giải quyết vấn đề.

Con người không bị mắc kẹt trong hành vi lặp lại vô tận. AI đôi khi thì có, dù là trên đường băng hay trong những trung tâm tổng đài tự động. Những ví dụ này có vẻ chỉ là thất bại đơn giản của trí thông minh, nhưng tôi nghĩ chúng chỉ ra điều sâu xa hơn: một giới hạn cơ bản khiến ngay cả AI thông minh nhất cũng sẽ mãi dễ bị rơi vào vòng lặp vô tận – không bao giờ nhận ra vấn đề, không bao giờ thoát ra.

Vấn đề vòng lặp vô hạn và cái nhìn của Turing

Hãy tưởng tượng một cầu ống thông minh hơn – một hệ thống có thể giám sát hiệu suất và phát hiện khi nó mắc kẹt. Nhờ có mô hình nội tại về môi trường và hành vi của mình, nó có thể thành công nơi các cầu ống hiện tại thất bại. Nhưng rồi nó cũng sẽ trục trặc. Vậy nên ta thêm một vòng giám sát bậc cao hơn – một mô hình giám sát mô hình. Nếu điều đó cũng lỗi? Lại thêm một vòng nữa. Và cứ thế, mỗi cấp độ đệ quy mới mang lại thêm một chút trí thông minh và tính ổn định. Nhưng sẽ luôn có khả năng xảy ra thêm một lỗi khác. Trừ khi xây dựng một chồng vô hạn vòng tự kiểm, hệ thống cuối cùng sẽ rơi vào vòng lặp vô hạn, không bao giờ thỏa điều kiện để dừng, và tất cả sẽ sụp đổ.

Các nhà khoa học máy tính đã vật lộn với vấn đề này gần một thế kỷ. Năm 1936, Alan Turing chứng minh rằng không có thuật toán nào có thể luôn xác định được liệu một thuật toán khác, khi nhận đầu vào, sẽ dừng lại hay chạy mãi mãi. Ví dụ: bạn viết mã cho robot di chuyển cho đến khi thấy một vật thể màu đỏ. Nếu robot không bao giờ thấy, hoặc logic có lỗi, nó sẽ chạy mãi. Và không quan trọng mã có tiên tiến đến đâu, không thể luôn dự đoán được nó sẽ dừng hay không.

Vấn đề khung và vòng lặp vô hạn

Khám phá của Turing mang tính trừu tượng, nhưng những giới hạn này trở nên cụ thể hơn với cái gọi là vấn đề khung. John McCarthy và Patrick J. Hayes nêu ra năm 1969: dạy máy ra quyết định thông minh dựa trên thông tin liên quan mà không cần xem xét vô tận các chi tiết không liên quan. Vì danh sách những thứ không liên quan có thể vô hạn, máy móc khó biết cần bỏ qua cái gì – và điều này lại mở ra khả năng vòng lặp vô tận.

Những vấn đề này là cột mốc trong tư duy về trí thông minh – tự nhiên lẫn nhân tạo – nhưng dần phai mờ khi mạng nơ-ron sâu và mô hình sinh tràn ngập xã hội. Tuy nhiên, chúng chưa bao giờ biến mất. Như chiếc cầu ống ở Madrid minh họa, khi silicon gặp đường băng, vẫn có vô số chỗ cho lỗi lầm.

Điểm cốt lõi: lý do AI dễ mắc vòng lặp vô hạn không phải vì thiếu sức mạnh xử lý, mà vì có một khác biệt sâu xa giữa chúng và bộ não sinh học của chúng ta.

Trí tuệ và ý thức: phân biệt nhưng gắn bó

Trí tuệ và ý thức là hai khái niệm riêng biệt – dù nhiều lãnh đạo công nghệ vẫn nhầm tưởng rằng tăng cường trí tuệ sẽ tất yếu dẫn đến ý thức. Trí tuệ là về làm, còn ý thức là về là và cảm. Nhưng chúng vẫn liên quan, ít nhất ở con người và động vật.

Giả thuyết của tôi là: một số hình thức trí tuệ – đặc biệt là trí tuệ cần thiết để hoàn toàn thoát khỏi vòng lặp vô tận trong một thế giới mở – phụ thuộc vào khả năng mà chỉ tâm trí có ý thức, gắn sâu vào dòng chảy của thời gian, mới có.

Con người và sinh vật có ý thức sống sót và phát triển trong môi trường ít dự đoán hơn sân bay, mà không cần vòng đệ quy vô tận. Thực ra, chúng ta khá kém trong đệ quy – hầu hết chỉ xử lý được ba tầng: biết rằng ta biết rằng ta biết. Nhưng chính điều đó chỉ ra rằng khả năng thích ứng của chúng ta phải dựa trên một cơ chế khác.

Cơ chế đó là gì? Một khả năng là tâm trí và ý thức của ta được neo trong thời gian và entropy – cách mà các thuật toán, về thiết kế, thì không.

Luật thứ hai của nhiệt động học quy định entropy của một hệ kín chỉ có thể tăng. Sự sống tồn tại nhờ là hệ mở – trao đổi năng lượng để duy trì trạng thái sống vốn rất ngược xác suất. Tế bào liên tục tái tạo điều kiện tồn tại nhờ dòng chảy năng lượng trao đổi. Các mạch thần kinh, theo nguyên lý năng lượng tự do, liên tục giảm thiểu bất ngờ thống kê của dữ liệu cảm giác, giữ cơ thể ổn định.

Trải nghiệm có ý thức phản ánh trực tiếp động lực tồn tại này. Mỗi trải nghiệm gom hàng loạt thông tin liên quan đến sống sót, hướng dẫn hành vi. Thậm chí mỗi trải nghiệm đều nhuốm màu cảm xúc – dễ chịu hay khó chịu – để thúc đẩy hành động.

Toàn bộ quá trình này gắn chặt với thời gian ở nhiều cấp độ: từ hóa sinh (hàng tỷ phản ứng mỗi giây trong mỗi tế bào) đến thần kinh (dòng xung điện thần kinh, khuếch tán chất dẫn truyền). Trong dòng ý thức, thời gian liên tục, không cưỡng nổi, vừa kế tiếp vừa kéo dài. Toàn bộ sự tồn tại của ta không thể tách khỏi thời gian vật lý – vốn cũng được nhiều nhà vật lý cho rằng gắn chặt với luật thứ hai nhiệt động học.

Cơn đói năng lượng của AI

Trái ngược với bộ não, máy tính coi thời gian là trừu tượng, mỏng và đơn tuyến. Mỗi thuật toán chỉ là một chuỗi trạng thái kế tiếp nhau, bất chấp giữa chúng là một micro giây hay một triệu năm. Điều này tốn kém: bởi silicon cũng không thoát khỏi entropy, việc giả vờ thời gian không tồn tại khiến AI tiêu thụ năng lượng khổng lồ để sửa lỗi và giữ bit ổn định.

Và đây chính là lý do AI dễ mắc vòng lặp vô tận: chúng tồn tại trong không gian chuỗi trạng thái bị đóng băng, tách rời khỏi entropy. Khi điều kiện bất ngờ xảy ra, chúng chỉ chờ năng lượng cạn kiệt trước khi kết thúc.

Con người thì khác. Chúng ta là những sinh thể trong thời gian. Áp lực thời gian và nhu cầu sống sót đóng vai trò như bộ lọc liên quan tối thượng, buộc chúng ta luôn tìm được lối thoát.

Tôi nói hầu như luôn vì cũng có những trường hợp lặp đi lặp lại: hành vi dai dẳng sau tổn thương thùy trán, rối loạn ám ảnh cưỡng chế, hành vi lặp trong tự kỷ nặng hay hội chứng Tourette, cho đến những vòng xoắn tự hủy của nghiện ngập. Nhưng chính những trường hợp này lại củng cố lập luận, bởi chúng phản ánh sự rối loạn của chức năng thần kinh–nhận thức bình thường.

Nếu giả thuyết này đúng, AI dựa trên tính toán kiểu Turing sẽ mãi thiếu một số dạng hành vi thông minh gắn thân thể và gắn thời gian. Và điều này khiến triển vọng về trí tuệ nhân tạo tổng quát (AGI) càng thêm xa vời.

Huyền thoại về ý thức AI

Liệu có những hướng phát triển AI mới gắn bó với thời gian hơn không? Có. Từ máy Antikythera cổ đại vận hành liên tục trong thời gian, đến nghiên cứu hiện nay về tính toán hữu hạn đời (mortal computation), nơi thuật toán chết cùng phần cứng. Hay các mô hình tính toán thần kinh mô phỏng não người, tôn trọng thời gian hơn.

Tuy nhiên, dù hứa hẹn, tôi nghi ngờ rằng chúng vẫn không thể hoàn toàn thoát khỏi bóng ma vòng lặp vô hạn, hay đạt đến trí tuệ mở và thích ứng như hệ sinh học. Bởi loại trí tuệ ấy gắn chặt với ý thức – thứ tích hợp đa tầng, từ trao đổi năng lượng chống entropy đến dự đoán hành động, luôn trôi chảy trong dòng thời gian.

Một số nhà khoa học cũng từng liên hệ ý thức với trí tuệ mở, chẳng hạn Murray Shanahan với lý thuyết không gian làm việc toàn cầu, hay Eva Jablonka và Simona Ginsburg với học liên tưởng không giới hạn. Tất cả cho thấy: một số dạng trí tuệ – ít nhất là ở sinh vật sống – có thể đòi hỏi ý thức.

Và nếu ý thức phụ thuộc vào việc gắn chặt với thời gian và động lực tồn tại, điều này có hệ quả lớn cho AI. Tính chất mỏng về thời gian của tính toán số cổ điển dường như không tương thích với ý thức như một quá trình động. Nếu ý thức không thể tách khỏi thời gian vật lý, nó không thể chỉ là thuật toán.

Đây là một nhát búa nữa đóng vào cỗ quan tài của ý tưởng rằng AI có ý thức sẽ sớm xuất hiện – nếu như cần thêm một nhát nữa.

Kết luận

Triết gia Daniel Dennett, trước khi mất, thường nhắc đến các câu hỏi khó của khoa học ý thức – đối lập vui nhộn với vấn đề khó của David Chalmers. Với Dennett, điều quan trọng không phải ý thức là gì, mà là ý thức làm gì. Ông hỏi: một trải nghiệm có ý thức xảy ra – rồi điều gì tiếp theo?

Có lẽ câu trả lời nằm ở thời gian. Ý thức có thể chính là cách của tự nhiên để giúp những tạo vật thông minh của mình tiếp tục tồn tại – để (hầu như) luôn tìm ra con đường đi tiếp.