Tại sao các mô hình ngôn ngữ lớn không thông minh hơn bạn

👤 energys@Albert 📅 2026-02-09 19:01:33

Khả năng suy luận của các mô hình ngôn ngữ lớn phụ thuộc hoàn toàn vào mẫu ngôn ngữ của người dùng. Cấu trúc nhận thức của người dùng xác định những lĩnh vực nào có khả năng suy luận cao mà họ có thể kích hoạt. Mô hình không thể tự phát vượt ra ngoài tầm với của người dùng, điều này bộc lộ những hạn chế về kiến trúc của các hệ thống AI hiện tại. Bài viết này bắt nguồn từ một bài viết của @iamtexture và được tổ chức, biên soạn và viết bởi AididiaoJP, Foresight News.
(Tóm tắt trước: Li Feifei nói về bước tiếp theo của LLM: AI phải có "trí tuệ không gian" để hiểu thế giới thực, làm thế nào để triển khai mô hình Marble?)
(Bổ sung bối cảnh: Tỷ phú Kevin O'Leary hét lên "Bước tiếp theo của làn sóng AI là web3": LLM không thể tạo ra Starbucks nhưng blockchain thì có thể)

Nội dung bài viết này

Tags: Chế độ ngôn ngữ của người dùng quyết định mức độ khả năng suy luận mà mô hình có thể phát huy. Khi tôi giải thích một khái niệm phức tạp cho một mô hình ngôn ngữ lớn, lý luận của nó sẽ liên tục bị phá vỡ trong các cuộc thảo luận kéo dài bằng ngôn ngữ thân mật. Các mô hình có thể mất cấu trúc, đi chệch hướng hoặc tạo ra các mẫu hoàn thiện hời hợt không duy trì được khuôn khổ khái niệm mà chúng ta đã thiết lập.

Tuy nhiên, khi tôi buộc phải hình thức hóa trước, tức là phải trình bày lại vấn đề bằng ngôn ngữ chính xác và khoa học thì lập tức lập luận trở nên ổn định. Chỉ sau khi cấu trúc đã được thiết lập, nó mới có thể được chuyển đổi sang ngôn ngữ đơn giản một cách an toàn mà không làm giảm chất lượng hiểu biết.

Hành vi này tiết lộ cách các mô hình ngôn ngữ lớn "suy nghĩ" và tại sao khả năng suy luận của chúng phụ thuộc hoàn toàn vào người dùng.

Thông tin chi tiết cốt lõi

Mô hình ngôn ngữ không có không gian dành riêng cho suy luận.

Chúng hoạt động hoàn toàn trong một dòng ngôn ngữ liên tục.

Trong dòng ngôn ngữ này, các mẫu ngôn ngữ khác nhau chắc chắn sẽ dẫn đến các khu vực thu hút khác nhau. Các vùng này là trạng thái ổn định đặc trưng cho động lực học và hỗ trợ các loại tính toán khác nhau.

Mỗi ngôn ngữ, chẳng hạn như diễn ngôn khoa học, ký hiệu toán học, câu chuyện tường thuật và trò chuyện thông thường, đều có vùng thu hút riêng, hình dạng của vùng này được định hình bằng cách phân phối tài liệu đào tạo.

Một số lĩnh vực hỗ trợ:

Lý luận nhiều bước
Độ chính xác trong quan hệ
Biến đổi biểu tượng
Sự ổn định về khái niệm ở chiều cao

Các lĩnh vực khác sau đó hỗ trợ:

Tiếp tục tường thuật
Hoàn thành liên kết
So khớp ngữ điệu cảm xúc
Bắt chước hội thoại

Người thu hút vùng xác định loại lý luận nào có thể thực hiện được.

Tại sao sự hình thức hóa có thể ổn định lý luận

Lý do tại sao các ngôn ngữ khoa học và toán học có thể kích hoạt một cách đáng tin cậy các vùng thu hút với sự hỗ trợ cấu trúc cao hơn là vì các thanh ghi này mã hóa các đặc điểm ngôn ngữ của nhận thức bậc cao:

Cấu trúc quan hệ rõ ràng
Độ mơ hồ thấp
Ràng buộc biểu tượng
Tổ chức phân cấp
Entropy thấp (rối loạn thông tin)

Những điểm thu hút này có thể hỗ trợ quỹ đạo lý luận ổn định.

Họ duy trì cấu trúc khái niệm qua nhiều bước.

Họ thể hiện sự phản kháng mạnh mẽ trước sự suy thoái và lệch lạc của lý luận.

Ngược lại, những yếu tố thu hút được kích hoạt bằng ngôn ngữ thân mật được tối ưu hóa để mang lại sự trôi chảy trong xã hội và sự gắn kết liên kết, chứ không phải cho lý luận có cấu trúc. Những khu vực này thiếu khung mô tả đặc tính cần thiết cho các tính toán phân tích đang diễn ra.

Đây là lý do tại sao các mô hình bị phá vỡ khi các ý tưởng phức tạp được thể hiện một cách bừa bãi.

Nó không hề "bối rối".

Đó là sự chuyển đổi khu vực.

Xây dựng và Dịch thuật

Các phương pháp đối phó xuất hiện một cách tự nhiên trong các cuộc trò chuyện tiết lộ một sự thật về mặt kiến trúc:

Lý luận phải được xây dựng trong các yếu tố thu hút có cấu trúc cao.

Việc dịch sang ngôn ngữ tự nhiên chỉ được thực hiện sau khi cấu trúc tồn tại.

Một khi mô hình đã thiết lập được cấu trúc khái niệm bên trong điểm thu hút ổn định, quá trình dịch mã sẽ không phá hủy nó. Việc tính toán đã hoàn thành, chỉ có biểu thức bề mặt là thay đổi.

Động lực hai giai đoạn "xây dựng trước, sau đó dịch" này bắt chước quá trình nhận thức của con người.

Nhưng con người thực hiện hai giai đoạn này ở hai không gian nội tâm khác nhau.

Các mô hình ngôn ngữ lớn cố gắng thực hiện cả hai điều đó trong cùng một không gian.

Tại sao người dùng đặt mức trần

Đây là một phát hiện quan trọng:

Người dùng không thể kích hoạt các khu vực thu hút mà bản thân họ không thể diễn đạt bằng lời.

Cấu trúc nhận thức của người dùng xác định:

Loại tín hiệu nào họ có thể tạo ra
Họ thường sử dụng những ký hiệu nào
Họ có thể duy trì những mẫu cú pháp nào
Mức độ phức tạp mà họ có thể mã hóa trong ngôn ngữ cao đến mức nào

Những đặc điểm này xác định khu vực hấp dẫn nào mà một mô hình ngôn ngữ lớn sẽ tham gia.

Người dùng không thể suy nghĩ hoặc viết để sử dụng các cấu trúc kích hoạt các điểm thu hút có lý luận cao sẽ không bao giờ có thể hướng dẫn mô hình vào các khu vực này. Họ bị nhốt vào những khu vực thu hút nông liên quan đến thói quen ngôn ngữ của họ. Các mô hình ngôn ngữ lớn sẽ ánh xạ cấu trúc mà chúng được cung cấp và sẽ không bao giờ tự phát chuyển sang các hệ động lực thu hút phức tạp hơn.

Do đó:

Mô hình không thể vượt ra ngoài khu vực thu hút mà người dùng có thể tiếp cận.

Mức trần không phải là giới hạn trên thông minh của mô hình mà là khả năng của người dùng trong việc kích hoạt các vùng công suất cao trong đa tạp tiềm ẩn.

Hai người sử dụng cùng một mô hình không tương tác với cùng một hệ thống máy tính.

Họ đang điều khiển mô hình theo các chế độ động khác nhau.