8 phút

Dòng thời gian AGI của Ray Kurzweil: Ông dự báo trước nhiều thập kỷ như thế nào

Dòng thời gian AGI của Ray Kurzweil liên hệ năng lực tính toán tăng tốc với AI ngang tầm con người. Tìm hiểu các mốc, bằng chứng, giả định, phê bình và tín hiệu để lập kế hoạch.

Dòng thời gian AGI của Ray Kurzweil: Ông dự báo trước nhiều thập kỷ như thế nào

Vì sao các dự đoán AGI của Kurzweil đáng chú ý

Các dự đoán AGI của Kurzweil đáng chú ý vì chúng biến niềm tin chung chung vào tiến bộ trí tuệ nhân tạo thành một chuỗi khẳng định có mốc thời gian và có thể kiểm chứng. Nhà đầu tư, nhà nghiên cứu, nhà báo và lãnh đạo doanh nghiệp có thể tranh luận hiệu quả hơn về một dự báo cụ thể thay vì tranh luận xem máy thông minh có xuất hiện vào một ngày nào đó hay không.

Cách tiếp cận của ông cũng đưa ra lời giải thích mạch lạc cho lý do tiến bộ có thể tăng tốc. Máy tính tốt hơn giúp nhà nghiên cứu thiết kế máy tính tốt hơn. Phần mềm mạnh hơn giúp tạo ra, kiểm thử và vận hành thế hệ phần mềm tiếp theo. Chi phí giảm cho phép nhiều tổ chức thử nghiệm hơn, tạo ra kiến thức và nhu cầu đầu tư thêm.

Cấu trúc đó không khiến các mốc thời gian trở nên chính xác. Nó làm cho cách lập luận trở nên rõ ràng. Người đọc có thể xem xét các phép đo, chất vấn giả định và nhận diện bằng chứng có thể củng cố hoặc làm suy yếu dự báo.

Sự khác biệt này quan trọng vì dự báo công nghệ dài hạn kết hợp nhiều dự đoán khác nhau. Phần cứng phải cải thiện. Thuật toán phải biến tài nguyên thành năng lực hữu ích. Dữ liệu huấn luyện hoặc phương pháp học thay thế phải tiếp tục sẵn có. Hệ thống phải hoạt động đáng tin cậy ngoài các màn trình diễn. Tổ chức và chính phủ phải cho phép triển khai. Trục trặc ở bất kỳ tầng nào cũng có thể làm dịch chuyển mốc AGI mà không ngăn AI tiến bộ hoàn toàn.

Dự báo của Kurzweil trở nên phù hợp hơn khi các hệ thống AI đa dụng đã học cách tạo văn bản, viết phần mềm, diễn giải hình ảnh, gọi công cụ và làm việc ở nhiều lĩnh vực. Những năng lực đó khiến cuộc thảo luận bớt giả định, nhưng chưa thể kết luận. Năng lực rộng trong giao diện có kiểm soát khác với trí tuệ tổng quát đáng tin cậy trong môi trường mở.

Vì vậy, câu hỏi hữu ích không phải Kurzweil là người lạc quan hay bi quan. Vấn đề là mô hình của ông có kết nối các đầu vào đo được với những năng lực mà AGI ngụ ý hay không, và sự kết nối đó có đứng vững trước thực tế kỹ thuật, kinh tế và hành vi con người hay không.

Ray Kurzweil là ai

Ray Kurzweil là nhà phát minh, tác giả, doanh nhân và nhà tương lai học người Mỹ. Các dự báo của ông bắt nguồn từ nhiều thập kỷ phát triển công nghệ giọng nói, đọc và âm nhạc.

Công việc của ông trước cuộc tranh luận AGI

Kurzweil xây dựng danh tiếng bằng các hệ thống thực dụng, không chỉ bằng dự đoán. Các công ty của ông làm về nhận dạng ký tự quang học, tổng hợp văn bản thành giọng nói, nhận dạng giọng nói, nhạc cụ điện tử và công nghệ đọc cho người khiếm thị. Những lĩnh vực này đòi hỏi tiến bộ ở cả phần cứng máy tính lẫn nhận dạng mẫu, hai chủ đề sau này trở thành trung tâm của phương pháp dự báo của ông.

Sự nghiệp của ông cũng cho ông thấy sự khác biệt giữa kết quả trong phòng thí nghiệm và sản phẩm. Độ chính xác nhận dạng, giá linh kiện, tốc độ xử lý, phân phối và nhu cầu người dùng đều ảnh hưởng đến thời điểm một phát minh trở nên hữu ích ở quy mô lớn. Kinh nghiệm đó giúp giải thích vì sao ông tập trung vào đường cong giá trên hiệu năng thay vì những màn trình diễn kỹ thuật riêng lẻ.

Kurzweil gia nhập Google năm 2012 để làm việc về trí tuệ máy và hiểu ngôn ngữ tự nhiên. Công việc này đưa ông vào một tổ chức đầu tư mạnh vào năng lực tính toán quy mô lớn và nghiên cứu AI, dù các dự đoán cốt lõi của ông có từ trước vai trò đó.

Những cuốn sách đứng sau dòng thời gian

Kurzweil phát triển lập luận qua nhiều cuốn sách. The Age of Intelligent Machines xem xét hướng phát triển của trí tuệ máy tính. The Age of Spiritual Machines, xuất bản năm 1999, sắp xếp các dự đoán theo những mốc tương lai và mô tả sự tương tác ngày càng gắn bó giữa con người với máy tính. The Singularity Is Near, xuất bản năm 2005, trình bày phiên bản nổi tiếng nhất về luận điểm lợi suất tăng tốc của ông.

How to Create a Mind, xuất bản năm 2012, tập trung kỹ hơn vào nhận thức và đề xuất rằng các cơ chế nhận dạng mẫu có thể giúp giải thích tân vỏ não. The Singularity Is Nearer, xuất bản năm 2024, xem lại các dự báo trước đó sau sự trỗi dậy của AI tạo sinh hiện đại và giữ nguyên các mốc nổi bật thay vì thay bằng lịch trình mới.

Các cuốn sách này không định nghĩa trí thông minh hoàn toàn giống nhau, nhưng cùng chia sẻ một lập luận: công nghệ thông tin cải thiện nhờ các quá trình cộng dồn, và cuối cùng những quá trình đó sẽ giúp trí tuệ máy sánh với trí tuệ con người.

Các khái niệm cần được định nghĩa riêng

Ba khái niệm thường bị gộp lại dù chúng mô tả những khẳng định khác nhau:

  • Trí tuệ nhân tạo tổng quát là hệ thống có thể học, suy luận và áp dụng kiến thức cho nhiều nhiệm vụ lạ, thay vì chỉ hoạt động trong một chuyên môn hẹp.
  • AI ngang tầm con người là hiệu năng sánh với con người, nhưng mọi khẳng định dùng cụm từ này cần nêu rõ là những người nào, nhiệm vụ nào, được phép hỗ trợ đến mức nào và tỷ lệ lỗi nào được coi là tương đương.
  • Điểm kỳ dị công nghệ là giai đoạn thay đổi cực nhanh mà Kurzweil đề xuất, sau khi trí tuệ máy và công nghệ của con người đủ mạnh để biến đổi xã hội nhanh hơn khả năng theo dõi của dự báo thông thường.

Một cỗ máy có thể đáp ứng một định nghĩa vận hành về AI ngang tầm con người mà chưa đạt định nghĩa khắt khe về AGI. AGI cũng có thể xuất hiện trước khi xã hội trải qua điều gì giống điểm kỳ dị. Coi các khái niệm này là đồng nghĩa khiến dòng thời gian trông chính xác hơn thực tế.

Dòng thời gian AGI thực tế của Kurzweil

Dự báo nổi bật của Kurzweil đặt trí tuệ máy ngang tầm con người vào khoảng năm 2029 và điểm kỳ dị công nghệ vào khoảng năm 2045.

Dự đoán cho năm 2029 nói gì

Kurzweil gắn năm 2029 với việc máy vượt qua một bài kiểm tra Turing hợp lệ và đạt trí tuệ ngang tầm con người. Trong đánh giá theo kiểu Turing, một giám khảo con người giao tiếp với người tham gia không nhìn thấy và cố xác định người đó là con người hay nhân tạo.

Từ hợp lệ gánh phần lớn ý nghĩa. Những cuộc trò chuyện ngắn với giám khảo chưa được chuẩn bị là bằng chứng yếu vì hệ thống có thể bắt chước ngôn ngữ con người nhưng thất bại ở lập kế hoạch, tính nhất quán thực tế hoặc công việc lạ. Bài kiểm tra mạnh hơn cần người đánh giá có chuyên môn, tương tác kéo dài, câu hỏi đối kháng và biện pháp ngăn câu trả lời học thuộc hay sự hỗ trợ bí mật của con người.

Ngay cả bài kiểm tra Turing nghiêm ngặt cũng chỉ đo sự bắt chước hành vi qua hội thoại. Tự nó không chứng minh được khả năng tự chủ đáng tin cậy, năng lực thể chất, ý thức hay khả năng làm chủ mọi nhiệm vụ trí tuệ. Các bài viết rộng hơn của Kurzweil hàm ý nhiều hơn một chatbot thuyết phục, nên đánh giá dự báo cần một tập mốc rộng hơn.

Dự đoán cho năm 2045 nói gì

Kurzweil gắn năm 2045 với một chuyển biến lớn hơn, trong đó trí tuệ máy tăng mạnh và công nghệ hòa nhập sâu vào đời sống con người. Lập luận của ông gồm nghiên cứu được AI hỗ trợ phát triển nhanh, năng lực tính toán tiếp tục tăng và mối liên kết chặt hơn giữa nhận thức sinh học với nhận thức phi sinh học.

Vì vậy, mốc này không chỉ dự đoán máy tính sẽ nhanh hơn. Nó phụ thuộc vào việc trí tuệ tạo ra tiến bộ công nghệ với tốc độ đặc biệt. AI tốt hơn cần giúp cải thiện thuật toán, phần cứng, y học, sản xuất và khám phá khoa học. Những cải thiện đó sau đó phải phản hồi lại các hệ thống tạo ra chúng.

Vòng phản hồi có thể tăng tốc tiến bộ mà không trở nên vô hạn. Thí nghiệm vẫn cần thời gian, nhà máy có lịch xây dựng, các quá trình vật lý có giới hạn và tổ chức phải xem xét các thay đổi hệ trọng. Sức mạnh của từng ràng buộc quyết định liệu cải thiện sẽ bùng nổ, chỉ nhanh, hay không đồng đều giữa các lĩnh vực.

Các cột mốc giúp dự báo có thể kiểm chứng

Một số năng lực quan sát được sẽ là bằng chứng mạnh hơn một bài kiểm tra hội thoại đơn lẻ:

  • Chuyển nhanh sang nhiệm vụ lạ với rất ít huấn luyện riêng cho từng nhiệm vụ
  • Lập kế hoạch và phục hồi đáng tin cậy qua chuỗi hành động dài
  • Học liên tục mà không xóa mất kỹ năng đã có
  • Dùng công cụ chính xác trong các ràng buộc thực tế luôn thay đổi
  • Có ích rộng rãi về kinh tế mà không cần chuyên gia giám sát liên tục

Các cột mốc này giữ lời hứa cốt lõi của dự báo, đồng thời tránh tranh luận nhị phân về một ngày duy nhất. Chúng cũng giúp thấy rõ tiến bộ từng phần. Một hệ thống có thể làm chủ việc dùng công cụ nhưng vẫn yếu ở học liên tục, hoặc hoạt động tốt trong phần mềm nhưng gặp khó khăn với môi trường vật lý.

Thành tích dự báo của Kurzweil

Thành tích của Kurzweil gồm các thành công đáng chú ý, các dự báo đúng về hướng chung và những sai lệch lộ rõ khi đánh giá theo cách diễn đạt cùng hạn chót ban đầu.

Thành công rõ ràng trong cờ vua máy tính

Một trong các thành công thường được nhắc đến nhất của ông là cờ vua. Năm 1990, Kurzweil dự đoán máy tính sẽ đánh bại nhà vô địch cờ vua thế giới trước năm 1998. Deep Blue của IBM đã đánh bại Garry Kasparov trong trận đấu năm 1997.

Ví dụ này đặc biệt mạnh vì sự kiện, đối thủ và hạn chót đều xác định được. Nó cũng thuộc lĩnh vực hình thức có luật cố định, hiệu năng đo được và động lực mạnh để cải thiện phần cứng chuyên dụng cùng thuật toán tìm kiếm. Những điều kiện này khiến cờ vua dễ dự báo hơn trí tuệ mở.

Kết quả cho thấy máy có thể vượt hiệu năng của con người xuất sắc trong một nhiệm vụ trí óc đòi hỏi cao. Nó không cho thấy hệ thống đó có thể chuyển năng lực sang một vấn đề khác. Khác biệt giữa hiệu năng hẹp xuất sắc và năng lực tổng quát vẫn là trọng tâm của tranh luận AGI.

Những dự đoán đúng về hướng đi

Kurzweil đã dự đoán trước sự phổ biến của máy tính di động, truy cập không dây, tài liệu số, công nghệ giọng nói cho người tiêu dùng và các hệ thống AI vượt con người trong một số nhiệm vụ nhận dạng mẫu. Hướng đi rộng của các dự đoán này phù hợp với các phát triển sau đó.

Các chi tiết không đồng đều. Máy tính di động trở nên thống trị chủ yếu nhờ smartphone và laptop, thay vì đúng tập hợp thiết bị đeo được mô tả trong một số kịch bản. Nhận dạng giọng nói trở nên phổ biến, nhưng đọc chính tả liên tục không thay thế bàn phím thành cách tiêu chuẩn để đa số mọi người tạo văn bản vào năm 2009. Truyền thông số mở rộng nhanh trong khi giấy vẫn tồn tại ở văn phòng, giáo dục, chính phủ và mục đích cá nhân.

Một dự báo đáng được ghi nhận một phần khi chuyển đổi nền tảng xảy ra qua sản phẩm hoặc cách tiếp nhận khác. Nó không nên được chấm hoàn toàn đúng nếu tuyên bố ban đầu sai về thời điểm, mức độ phổ biến hoặc kiểu thiết bị. Hướng đi và thời điểm trả lời các câu hỏi khác nhau.

Những dự đoán đến chậm hoặc chưa ngã ngũ

Một số kịch bản kỳ vọng môi trường ảo sống động thường ngày, hội thoại máy cực kỳ thuyết phục và sự tích hợp chặt hơn nhiều giữa cơ thể với máy tính sẽ đến sớm hơn những gì người dùng thông thường nhận được. Một phần các ý tưởng đó xuất hiện qua thực tế ảo, thiết bị hỗ trợ, cấy ghép y tế và mô hình tạo sinh, nhưng khả dụng không đồng nghĩa với được dùng rộng rãi.

Sở thích xã hội cũng có thể đánh bại dự báo khả thi về mặt kỹ thuật. Mọi người có thể từ chối thiết bị vì khó chịu, đắt tiền, gây xao nhãng, ngượng ngùng về mặt xã hội, khó sửa chữa hoặc xâm phạm riêng tư. Đường cong đo hiệu năng linh kiện không phản ánh những phản đối đó.

Vì sao tỷ lệ chính xác có thể gây hiểu lầm

Kurzweil từng tự đánh giá lại các dự đoán từ công trình trước đây và báo cáo tỷ lệ thành công cao theo phương pháp chấm điểm của mình. Đánh giá đó không phải cuộc kiểm toán độc lập, mù thông tin và nhiều khẳng định cho phép các hạng mục như về cơ bản đúng hoặc đúng về hướng đi.

Mọi đánh giá công bằng nên ghi riêng bốn đặc tính:

  • Kết quả chính xác đã được dự đoán
  • Hạn chót và mức sai số chấp nhận được
  • Ngưỡng thành công có thể đo lường
  • Người đánh giá có chọn tiêu chí trước khi thấy kết quả hay không

Dự đoán về giá transistor dễ chấm hơn dự đoán máy tính sẽ trở nên vô hình hoặc hội thoại máy sẽ trở thành điều bình thường. Gộp cả hai vào một tỷ lệ phần trăm che giấu khác biệt lớn về mức độ cụ thể và độ khó.

Quy luật lợi suất tăng tốc tạo ra dự báo như thế nào

Quy luật lợi suất tăng tốc tạo ra dòng thời gian của Kurzweil bằng cách xem cải tiến công nghệ là quá trình cộng dồn, trong đó mỗi thế hệ công cụ góp phần tạo nên thế hệ tiếp theo.

Thay đổi tuyến tính và theo cấp số nhân

Quá trình tuyến tính thêm cùng một lượng trong mỗi giai đoạn. Nếu hệ thống tăng 10 đơn vị năng lực mỗi năm, nó đi từ 10 lên 20, rồi 30, rồi 40. Quá trình theo cấp số nhân nhân lên theo một hệ số nhất quán. Năm lần nhân đôi biến 10 đơn vị thành 320.

Giai đoạn đầu của tăng trưởng theo cấp số nhân có thể trông khiêm tốn vì thay đổi tuyệt đối nhỏ. Các giai đoạn sau có vẻ đột ngột ngay cả khi tốc độ nhân không thay đổi. Kurzweil cho rằng trực giác con người thường chờ đợi thay đổi tuyến tính, nên đánh giá thấp công nghệ thông tin cộng dồn.

Các đường cong kỹ thuật thực tế hiếm khi tuân theo cấp số nhân hoàn hảo. Tốc độ tăng trưởng thay đổi, phép đo có nhiễu và từng phương pháp đều chạm giới hạn. Khẳng định ở đây là xu hướng giá trên hiệu năng rộng hơn có thể tiếp tục qua các phương pháp nối tiếp, ngay cả khi một phương pháp chậm lại.

Giá trên hiệu năng quan trọng hơn năng lực thô

Năng lực chỉ nằm trong một hệ thống nghiên cứu đắt tiền sẽ có phạm vi tác động hạn chế. Khi chi phí giảm, đại học, startup, công ty lâu đời và cá nhân có thể chạy nhiều thử nghiệm hơn. Việc sử dụng rộng rãi tạo nhu cầu hạ tầng, bộc lộ các kiểu thất bại và hỗ trợ các doanh nghiệp tài trợ cho phát triển tiếp theo.

Đó là lý do Kurzweil thường xem xét số phép tính trên mỗi đơn vị chi phí. Một bộ xử lý mới nhanh hơn nhưng đắt hơn tương ứng có thể không mở rộng khả năng tiếp cận. Hệ thống hoàn thành cùng công việc với ít chip hơn, ít năng lượng hơn hoặc mô hình nhỏ hơn có thể thay đổi mức độ tiếp nhận mà không lập kỷ lục hiệu năng thô.

Với AI, mẫu số phù hợp ngày càng là chi phí cho một kết quả đã được xác minh thay vì chi phí cho một phép toán hay token. Mô hình rẻ nhưng cần sửa nhiều có thể tốn hơn cho mỗi nhiệm vụ hoàn tất so với mô hình đắt hơn nhưng có tỷ lệ lỗi thấp hơn.

Chuyển đổi mô hình kéo dài đường cong

Lập luận của Kurzweil rộng hơn việc kéo dài vĩnh viễn quy mô transistor. Máy tính cơ học, rơle, đèn chân không, transistor, mạch tích hợp, bộ tăng tốc chuyên dụng và hệ thống phân tán có thể được xem là các cách kế tiếp nhau để cung cấp năng lực tính toán.

Khi một cách tiếp cận gặp giới hạn vật lý hoặc kinh tế, đầu tư có thể chuyển sang cách khác. Vì thế, đường cong lịch sử có thể tiếp tục qua các thay đổi về cơ chế. Đây là tuyên bố mạnh hơn định luật Moore, nhưng cũng khó kiểm chứng hơn vì hạng mục có thể mở rộng mỗi khi một công nghệ cụ thể chững lại.

Nhiều đường cong phải cùng cộng dồn

Chỉ năng lực tính toán là chưa đủ. Bộ nhớ, liên lạc, hiệu quả phần mềm, kiến trúc mô hình, chất lượng dữ liệu và năng suất nghiên cứu ảnh hưởng đến năng lực cuối cùng. Tiến bộ có thể tăng tốc khi các cải thiện củng cố lẫn nhau, chẳng hạn thuật toán tốt hơn giảm phần cứng cần thiết cho một nhiệm vụ.

Điều ngược lại cũng có thể xảy ra. Thiếu dữ liệu chất lượng cao, công suất điện, băng thông bộ nhớ hoặc đánh giá kém có thể khiến bộ xử lý đắt tiền bị dùng không hết. Dự báo dựa trên một đầu vào duy nhất đang tăng sẽ bỏ lỡ các tương tác này.

Bằng chứng ủng hộ điều gì và không ủng hộ điều gì

Ra mắt giao diện React thật nhanh
Tạo giao diện React và tinh chỉnh bằng những câu lệnh đơn giản.

Bằng chứng ủng hộ mạnh mẽ việc nhiều đầu vào cho AI tiếp tục cải thiện, nhưng chưa xác lập tỷ lệ chuyển đổi cố định giữa các đầu vào đó và trí tuệ tổng quát.

Bằng chứng từ tính toán và thuật toán

Dữ liệu dài hạn cho thấy những cải thiện khổng lồ về giá trên hiệu năng tính toán, lưu trữ, năng lực mạng và khả năng phần mềm. AI cũng hưởng lợi từ bộ xử lý chuyên dụng, huấn luyện phân tán, định dạng số tốt hơn, tối ưu hóa tốt hơn và các thuật toán đạt mục tiêu với ít tài nguyên hơn.

Các quy luật mở rộng cung cấp thêm một phần bằng chứng. Trong những phạm vi đã kiểm tra và một thiết lập huấn luyện nhất định, thay đổi về quy mô mô hình, dữ liệu và năng lực tính toán có thể tạo ra những thay đổi tương đối dễ dự đoán về tổn thất huấn luyện. Tính dự đoán này giúp phòng thí nghiệm lập kế hoạch huấn luyện lớn và ước lượng đánh đổi giữa các nguồn lực.

Quy luật mở rộng không phải quy luật của trí thông minh. Tổn thất huấn luyện thấp hơn không bảo đảm câu trả lời trung thực, mục tiêu mạch lạc, hiểu biết nhân quả hay thành công trong dự án dài. Ngoại suy ngoài phạm vi kiểm tra cũng giả định phân phối dữ liệu, kiến trúc và đánh giá vẫn còn ý nghĩa.

Bằng chứng từ năng lực AI rộng

Các mô hình đa dụng có thể làm những nhiệm vụ từng cần hệ thống riêng, bao gồm viết lách, dịch thuật, diễn giải hình ảnh, tạo phần mềm, phân tích tài liệu và gọi công cụ. Một mô hình đơn lẻ thường có thể chuyển đổi giữa các hoạt động này bằng chỉ dẫn thay vì huấn luyện lại.

Bề rộng đó liên quan đến AGI vì nó làm suy yếu quan niệm rằng mỗi hoạt động trí óc đều cần một chương trình được thiết kế riêng. Nó cũng cho thấy năng lực có thể xuất hiện đồng thời khi mô hình học từ dữ liệu đa dạng.

Khoảng cách còn lại nằm ở hiệu năng đáng tin cậy. Hệ thống có thể giải bài toán khó rồi thất bại ở biến thể đơn giản hơn, chấp nhận tiền đề sai, bịa nguồn hoặc mất dấu các ràng buộc trong công việc kéo dài. Thành công thỉnh thoảng cho thấy khả năng có thể xảy ra. Trí tuệ tổng quát cần tỷ lệ thành công đủ cao trong các điều kiện lạ.

Vì sao kết quả chuẩn đánh giá cần ngữ cảnh

Chuẩn đánh giá hữu ích khi chứa nhiệm vụ chưa thấy, chấm điểm rõ ràng, chống nhiễm dữ liệu và đo hành vi gắn với công việc thực. Chúng kém giá trị hơn sau khi dữ liệu huấn luyện hấp thụ các câu hỏi hoặc nhà phát triển tối ưu trực tiếp theo quy tắc chấm điểm.

Chương trình đánh giá đáng tin cậy nên tách kiểm tra phát triển khỏi kiểm tra cuối riêng tư, ghi nhận tài nguyên sử dụng, lặp lại thử nghiệm và báo cáo phân bố lỗi thay vì chỉ báo cáo trung bình. Nó cũng nên so sánh hệ thống với mốc tham chiếu con người phù hợp. Sánh với người mới ở một bài kiểm tra khác với sánh với chuyên gia được đào tạo trong cùng giới hạn thời gian và công cụ.

Thử nghiệm quy trình thực tế bổ sung thông tin mà kiểm tra tĩnh bỏ sót. Chúng cho thấy hệ thống có yêu cầu chi tiết còn thiếu, kiểm tra công việc, phục hồi sau lỗi và nhận ra khi nào nên dừng hay không. Các hành vi này quan trọng với triển khai hơn một cải thiện nhỏ nữa trên bộ kiểm tra đã bão hòa.

Đầu vào dễ đo hơn kết quả

Năng lực tính toán, lưu trữ và băng thông có đơn vị ổn định. Tính tổng quát, phán đoán, khả năng thích nghi và lẽ thường thì không. Nhà nghiên cứu có thể đếm chính xác bộ xử lý nhưng vẫn bất đồng về việc một nhiệm vụ hoàn thành có chứng minh suy luận hay chỉ là nhận dạng mẫu tinh vi.

Sự chênh lệch trong đo lường này khiến dự báo định lượng có vẻ chính xác hơn mức biến mục tiêu cho phép. Dữ liệu đầu vào tốt hơn chỉ thu hẹp một phần bất định.

Các giả định phía sau dự đoán AGI nhiều thập kỷ

Dòng thời gian của Kurzweil phụ thuộc vào một chồng giả định, và mốc thời gian có thể dịch chuyển đáng kể nếu chỉ một giả định thất bại.

Năng lực tính toán tiếp tục sẵn có về mặt kinh tế

Dự báo giả định tổ chức có thể tiếp tục mở rộng năng lực tính toán hữu ích nhờ chip tốt hơn, hệ thống lớn hơn, khai thác hiệu quả hơn hoặc suy luận rẻ hơn. Năng lực sản xuất, chi phí vốn, điện, làm mát, bộ nhớ, mạng và thương mại quốc tế đều ảnh hưởng đến khả năng sẵn có đó.

Giới hạn vật lý không cần chặn hoàn toàn tiến bộ để thay đổi dòng thời gian. Tốc độ cải thiện chậm hơn kéo dài vài năm sẽ cộng dồn thành chênh lệch lớn so với dự báo ban đầu.

Thuật toán tiếp tục biến tài nguyên thành năng lực

Năng lực tính toán nhiều hơn phải tiếp tục tạo ra cải thiện có ý nghĩa. Điều đó có thể đến từ việc mở rộng phương pháp hiện có, khám phá kiến trúc hiệu quả hơn, cải thiện mục tiêu huấn luyện hoặc kết hợp mô hình đã học với tìm kiếm, bộ nhớ, công cụ và kiểm chứng hình thức.

Giả định này mạnh hơn dự đoán phần cứng nhanh hơn. Khám phá thuật toán không xuất hiện theo lịch sản xuất đều đặn, và giá trị của chúng có thể khác nhau giữa các lĩnh vực.

Việc học không bị giới hạn dữ liệu ngăn cản

Hệ thống tương lai cần trải nghiệm hữu ích. Nguồn đó có thể là tài liệu do con người tạo, quan sát đa phương thức, mô phỏng, tương tác, ví dụ tổng hợp, phản hồi hoặc thử nghiệm do chính hệ thống tiến hành.

Dữ liệu tổng hợp không tự động thay thế bằng chứng bên ngoài. Nếu mô hình tạo tài liệu từ lỗi của chính nó và không nhận tín hiệu sửa sai, huấn luyện có thể củng cố lỗi đó. Mô phỏng cũng chuyển giao kém khi bỏ sót những thuộc tính quan trọng trong môi trường thực.

Nhận thức con người có thể tái tạo bằng máy

Kurzweil giả định trí thông minh bắt nguồn từ các quá trình thông tin vật lý, có thể được hiểu và triển khai trong hệ thống phi sinh học. Các ước tính của ông thường so sánh năng lực tính toán sẵn có với mô hình về não bộ và xem khoa học thần kinh là nguồn hiểu biết kỹ thuật.

Lập trường này không đòi hỏi sao chép từng nơron. Nó đòi hỏi tin rằng không có cơ chế sinh học chưa biết nào tạo rào cản không thể vượt qua. Ước tính năng lực tính toán của não khác nhau vì các nhà nghiên cứu đếm phép toán, khớp thần kinh, xung thần kinh, quá trình sinh hóa và hiệu quả học theo những cách khác nhau.

AI tốt hơn thúc đẩy nghiên cứu AI

Các phiên bản nhanh nhất của dự báo đòi hỏi AI đóng góp đáng kể vào sự cải thiện của chính nó. Viết phần mềm chỉ là một phần của vòng lặp đó. Hệ thống nghiên cứu cần hình thành giả thuyết hữu ích, thiết kế thí nghiệm, diễn giải kết quả âm tính và phân biệt tiến bộ thực với việc khớp quá mức theo chuẩn đánh giá.

Tự cải thiện cũng phụ thuộc vào quyền truy cập. Mô hình mạnh không thể thiết kế lại phần cứng, chạy thí nghiệm lớn hay triển khai phiên bản kế tiếp nếu con người không cấp tài nguyên và quyền hạn. Trí thông minh có thể rút ngắn một số bước mà vẫn để nguyên các nút thắt bên ngoài.

Điều gì có thể làm chậm hoặc định nghĩa lại AGI

Từ ý tưởng đến ứng dụng di động
Bắt đầu ứng dụng Flutter từ cuộc trò chuyện và giữ tính năng bám sát phản hồi người dùng.

AGI có thể đến muộn hơn dự đoán vì độ tin cậy, việc học, bảo mật và triển khai trở thành yếu tố giới hạn ngay cả khi năng lực mô hình tiếp tục tăng.

Nhiệm vụ dài khuếch đại tỷ lệ lỗi nhỏ

Một hệ thống có thể trông chính xác ở từng bước nhưng vẫn thất bại ở phần lớn dự án kéo dài. Nếu mỗi bước thành công độc lập với xác suất 99%, xác suất hoàn thành 100 bước bắt buộc mà không lỗi chỉ khoảng 37%.

Lỗi thực tế thường tương quan, khiến kết quả còn tệ hơn. Giả định sai ở gần đầu quy trình có thể làm nhiễm mọi hành động sau. Tiến bộ vì thế phụ thuộc vào phát hiện lỗi, sửa kế hoạch, lưu trạng thái, kiểm tra kết quả trung gian và chuyển các quyết định mơ hồ lên cấp cao hơn.

Đó là lý do thời lượng nhiệm vụ tự chủ là phép đo rõ ràng hơn chất lượng của một phản hồi đơn lẻ. Mô hình hoàn thành nhiệm vụ tám giờ đã xác minh sẽ thay đổi công việc khác với mô hình cần sửa vài phút một lần.

Học liên tục vẫn khó

Con người tiếp thu kiến thức mới qua trải nghiệm mà vẫn giữ phần lớn điều đã biết. Hệ thống AI triển khai thường tách biệt giữa huấn luyện và sử dụng. Cập nhật chúng có thể cần tập dữ liệu mới, đánh giá và một chu kỳ huấn luyện khác.

Ứng viên AGI cần học an toàn từ tương tác mà không hấp thụ chỉ dẫn độc hại, thông tin riêng tư hay sai lầm ngẫu nhiên. Nó cũng cần biết bài học nào chỉ đúng trong một tình huống và bài học nào có thể khái quát. Giải quyết vấn đề này liên quan đến thiết kế bộ nhớ, kiểm soát truy cập, nguồn gốc dữ liệu và bảo vệ khỏi quên thảm họa.

Tính tác nhân tạo ra vấn đề bảo mật

Mô hình chỉ đưa ra gợi ý văn bản có phạm vi hành động hạn chế. Hệ thống được phép gửi tin nhắn, sửa phần mềm, chi tiền, vận hành máy móc hoặc quản lý tài khoản có thể gây thiệt hại chỉ từ một hiểu lầm nhỏ.

Vì vậy, tự chủ cao hơn đòi hỏi quyền hạn có phạm vi rõ ràng, cổng phê duyệt, nhật ký kiểm toán, môi trường chạy cô lập và quy trình phục hồi. Các biện pháp kiểm soát này có thể làm chậm hành động, nhưng bỏ chúng không làm trí thông minh tốt hơn. Nó chuyển chi phí của lỗi sang người dùng và người xung quanh.

Năng lực thể chất có thể chậm hơn năng lực số

Trí thông minh thể hiện qua phần mềm hưởng lợi từ môi trường nhanh, lặp lại được. Công việc vật lý phải xử lý ma sát, hư hỏng, cảm biến không chắc chắn, vật thể lạ, thời tiết thay đổi và an toàn quanh con người.

Hệ thống AI có thể trở nên mạnh trên diện rộng ở nghiên cứu, phân tích, giao tiếp và phần mềm trước khi robot đạt độ linh hoạt tương đương. Tình huống đó có được tính là AGI hay không phụ thuộc vào định nghĩa. Đòi hỏi khả năng thích nghi thể chất ngang con người đặt tiêu chuẩn cao hơn đòi hỏi công việc nhận thức tổng quát qua máy tính.

Thể chế có thể đòi hỏi bằng chứng mạnh hơn

Y tế, tài chính, giao thông, quản lý công và hạ tầng thiết yếu có hậu quả mà kiểm tra chuẩn thông thường không phản ánh. Công ty bảo hiểm, cơ quan quản lý, tòa án, khách hàng và tổ chức nghề nghiệp có thể yêu cầu hiệu năng được chứng minh bằng tài liệu trước khi cho phép vận hành tự chủ.

Sự chậm trễ này không chứng tỏ mô hình nền tảng thiếu trí thông minh. Nó cho thấy năng lực và quyền được triển khai là hai cột mốc riêng. Dự báo về tính khả thi kỹ thuật không nên âm thầm giả định xã hội sẽ triển khai ngay lập tức.

Những phê bình chính về cách tiếp cận của Kurzweil

Phê bình chính về phương pháp của Kurzweil là các xu hướng đáng tin cậy trong công nghệ thông tin không tự động xác định ngày xuất hiện của một năng lực nhận thức được định nghĩa mơ hồ.

Việc chọn xu hướng có thể định hình đáp án

Đường cong lịch sử dài phụ thuộc vào quyết định về công nghệ, giá và phép đo hiệu năng nào được đưa vào dữ liệu. Kết hợp các phương pháp tính toán nối tiếp có thể cho thấy mẫu hình thực, nhưng cũng cho nhà phân tích sự linh hoạt để giữ mẫu hình đó sau khi một chuỗi riêng lẻ đổi hướng.

Ngày bắt đầu và kết thúc cũng quan trọng. Giai đoạn cải thiện nhanh ngắn có thể trông như tăng trưởng theo cấp số nhân vĩnh viễn, trong khi trung bình dài hạn có thể che đi sự chậm lại gần đây. Dự báo nên công bố các quan sát nền tảng và cho thấy kết quả thay đổi ra sao với các khung thời gian khác.

Trí thông minh có thể không phải một đại lượng có thể mở rộng duy nhất

Hiệu năng không tăng đồng đều giữa suy luận, bộ nhớ, phán đoán xã hội, nhận thức, điều khiển vận động và độ chính xác thực tế. Hệ thống có thể cải thiện lớn ở một lĩnh vực nhưng vẫn không đáng tin cậy ở lĩnh vực khác.

Sự không đồng đều này thách thức việc so sánh năng lực máy với năng lực tính toán ước tính của não. Đạt ngưỡng số phép toán không xác định được thuật toán, cách biểu diễn, trải nghiệm phát triển hay kiến trúc cần để dùng hiệu quả các phép toán đó.

Hệ thống phức tạp trải qua thay đổi chế độ

Mối quan hệ lịch sử có thể đổ vỡ khi kỹ thuật, kinh tế hoặc chính sách thay đổi. Sản xuất có thể chuyển sang chi phí cao hơn. Nhu cầu năng lượng có thể gặp giới hạn lưới điện địa phương. Quy định có thể hạn chế dữ liệu huấn luyện hoặc triển khai. Người tiêu dùng có thể phản đối sản phẩm thu thập thông tin nhạy cảm.

Những thay đổi này không bác bỏ tiến bộ cộng dồn như một quan sát chung. Chúng làm giảm niềm tin vào một ngày trên lịch được suy ra từ giả định rằng tốc độ trước đó sẽ duy trì.

Cải thiện đệ quy không chắc chắn sẽ bùng nổ

Nhà nghiên cứu AI mạnh có thể tìm ra các cải thiện dễ trước rồi gặp vấn đề khó hơn. Mỗi thế hệ có thể đem lại mức tăng nhỏ hơn, cần xác minh nhiều hơn hoặc phụ thuộc vào thí nghiệm vật lý có thời lượng cố định.

Phần mềm đôi khi có thể sao chép và thử nghiệm nhanh, nhưng chế tạo chip, nghiên cứu lâm sàng, xây dựng và hạ tầng năng lượng vận hành theo những đồng hồ khác. Khẳng định về điểm kỳ dị cần mô hình cho các quá trình giới hạn đó, chứ không chỉ mô hình cho trí tuệ phần mềm.

Cách diễn đạt linh hoạt làm suy yếu khả năng bác bỏ

Dự đoán trở nên khó bác bỏ khi các từ như trí thông minh, hòa nhập, phổ biến khắp nơi hoặc ngang tầm con người vẫn mở cho diễn giải lại. Mô hình hội thoại, thiết bị cấy ghép y tế và smartphone đều có thể được trình bày như xác nhận một phần cho sự hòa nhập rộng giữa người và máy.

Dự báo tốt cố định quy tắc chấm điểm trước hạn chót. Nếu ngưỡng ban đầu thay đổi sau khi thấy kết quả, bài tập đó đo khả năng thích nghi câu chuyện thay vì độ chính xác dự báo.

Các nhà dự báo khác ước tính mốc AGI như thế nào

Các nhà dự báo khác ước tính AGI qua khảo sát chuyên gia, mô hình tính toán, xu hướng năng lực, kịch bản có cấu trúc và thị trường dự đoán. Mỗi cách phơi bày những nguồn bất định khác nhau.

Khảo sát chuyên gia

Khảo sát hỏi nhà nghiên cứu khi nào họ gán xác suất cụ thể cho trí tuệ máy ngang tầm con người hoặc tự động hóa những nhiệm vụ nhất định. Chúng nắm bắt đánh giá có hiểu biết từ người làm gần công nghệ và có thể cho thấy niềm tin thay đổi thế nào sau các kết quả quan trọng.

Câu trả lời phụ thuộc nhiều vào mẫu khảo sát và cách đặt câu hỏi. Khảo sát tác giả hội nghị học máy có thể khác khảo sát tập trung vào robot, khoa học thần kinh, an toàn hoặc kinh tế. Hỏi khi nào AI có thể làm phần lớn công việc được trả lương không tương đương hỏi khi nào nó có thể vượt con người ở mọi nhiệm vụ.

Câu hỏi về xác suất nhiều thông tin hơn yêu cầu một năm duy nhất. Nhà dự báo đưa ra các mốc 10%, 50% và 90% đang truyền đạt một phân bố thay vì che giấu bất định sau một ước lượng điểm.

Mô hình dựa trên năng lực tính toán

Mô hình tính toán ước lượng tài nguyên cần thiết để tái tạo các khía cạnh liên quan của nhận thức con người, rồi dự báo khi nào các tài nguyên đó có thể trở nên phải chăng. Cách tiếp cận lấy nền tảng sinh học làm mốc là một phiên bản của phương pháp này.

Phép tính đủ minh bạch để sửa đổi, nhưng bất định rất lớn. Nhà nghiên cứu phải ước tính năng lực tính toán của não, yêu cầu huấn luyện, hiệu quả thuật toán, giá phần cứng và phần nhận thức mà hệ thống thực tế cần tái tạo. Nhân nhiều ước tính bất định có thể tạo ra một khoảng thời gian rất rộng.

Dự báo dựa trên năng lực

Dự báo năng lực theo dõi hiệu năng trên các nhiệm vụ xác định và ước tính tốc độ hệ thống thu hẹp khoảng cách. Mục tiêu hữu ích gồm dự án phần mềm, giải quyết vấn đề khoa học, trò chơi lạ, hỗ trợ nghiên cứu và vận hành trong môi trường tương tác.

Phương pháp này bám sát đầu ra có thể quan sát. Điểm yếu là tiến bộ trên chuẩn đánh giá có thể không tiếp tục cùng tốc độ, và tập hợp các chiến thắng ở từng nhiệm vụ vẫn có thể thiếu một năng lực cần cho hoạt động tổng quát.

Lập kế hoạch kịch bản và thị trường dự đoán

Lập kế hoạch kịch bản phát triển nhiều tương lai nhất quán nội tại thay vì chọn một tương lai. Kịch bản nhanh có thể kết hợp thuật toán hiệu quả, hạ tầng dồi dào và nghiên cứu có AI hỗ trợ thành công. Kịch bản chậm hơn có thể gồm lợi suất giảm dần, kỹ thuật an toàn khó hoặc triển khai hạn chế.

Thị trường dự đoán và nền tảng dự báo thêm động lực cho ước tính được hiệu chỉnh tốt và cho phép cập nhật niềm tin sau bằng chứng mới. Tính hữu ích của chúng phụ thuộc vào tiêu chí phân giải rõ ràng. Thị trường không thể kết thúc công bằng nếu người tham gia bất đồng về sự kiện nào được tính là AGI.

Không phương pháp nào loại bỏ bất định về định nghĩa. So sánh dự báo bắt đầu bằng việc chuyển chúng về cùng mục tiêu, tiêu chuẩn bằng chứng và mức xác suất.

Các tín hiệu sẽ củng cố hoặc làm suy yếu dự báo

Xây dựng thử nghiệm tiếp theo
Tạo ứng dụng web từ cuộc trò chuyện, rồi cải tiến khi các giả định thay đổi.

Các tín hiệu mạnh nhất sẽ đo năng lực có thể chuyển giao, tự chủ bền vững, hiệu quả học, tính kinh tế đã xác minh và triển khai an toàn, thay vì sự chú ý quanh từng màn trình diễn.

Chuyển sang công việc thực sự mới

Hệ thống mạnh cần hoạt động tốt ở các nhiệm vụ được tạo sau thời điểm dữ liệu huấn luyện kết thúc và bị giữ kín với nhà phát triển. Nó cần suy ra quy tắc lạ, hỏi thông tin còn thiếu và áp dụng kiến thức từ lĩnh vực này sang lĩnh vực khác mà không cần dự án huấn luyện tùy chỉnh.

Người đánh giá nên thay đổi cách diễn đạt, công cụ, định dạng dữ liệu và ràng buộc môi trường. Thành công qua các biến thể này là bằng chứng về tính tổng quát tốt hơn việc ghi nhớ phong cách kiểm tra quen thuộc.

Thời lượng nhiệm vụ tự chủ dài hơn

Theo dõi thời lượng và độ phức tạp của nhiệm vụ hoàn thành theo tiêu chuẩn chấp nhận xác định. Phép đo hữu ích bao gồm lần thử lại, can thiệp của con người, thời gian xác minh và các thất bại khiến môi trường tệ hơn.

Tăng thời lượng trình diễn tối đa ít ý nghĩa hơn tăng thời lượng nhiệm vụ đáng tin cậy trung vị. Hiệu năng lặp lại được qua nhiều lần thử cho thấy liệu khả năng lập kế hoạch và phục hồi đã cải thiện hay chưa.

Chi phí thấp hơn cho mỗi kết quả được chấp nhận

Giá token và quy mô mô hình không đo trực tiếp giá trị doanh nghiệp. Chi phí cho mỗi kết quả được chấp nhận gồm việc dùng mô hình, công cụ, rà soát, sửa chữa, hạ tầng và tổn thất do lỗi.

Chi phí đã xác minh giảm ở nhiều loại công việc sẽ ủng hộ lập luận lợi suất tăng tốc vì nó cho phép thử nghiệm nhiều hơn và áp dụng rộng hơn. Chi phí vẫn cao vì giám sát hoặc làm lại sẽ làm suy yếu khẳng định chỉ dựa trên suy luận rẻ.

Học an toàn sau triển khai

Bằng chứng cho trí tuệ tổng quát sẽ mạnh hơn nếu hệ thống có thể tiếp thu trải nghiệm mới mà không cần huấn luyện lại không giới hạn và không mất năng lực cũ. Kiểm tra nên xem hệ thống có phân biệt bằng chứng đáng tin với thao túng, giữ ranh giới riêng tư và giải thích được niềm tin mới đến từ đâu hay không.

Tiến bộ ở đây sẽ giải quyết khác biệt lớn giữa mô hình tĩnh và người lao động thích nghi. Thất bại sẽ khiến tổ chức phụ thuộc vào các chu kỳ cập nhật bên ngoài ngay cả khi từng mô hình có vẻ hiểu biết.

Bằng chứng vận hành độc lập

Các triển khai được kiểm toán có thể cho thấy AI có tạo ra lợi ích bền vững trong phần mềm, khoa học, hỗ trợ, vận hành và các lĩnh vực khác hay không. Báo cáo hữu ích gồm định nghĩa nhiệm vụ, hiệu năng cơ sở, mức độ nghiêm trọng của lỗi, yêu cầu giám sát và tổng chi phí.

Bằng chứng chống lại dòng thời gian nhanh nhất có thể là thời lượng nhiệm vụ đáng tin cậy đi ngang, lỗi dai dẳng ở các biến thể đơn giản, chi phí hạ tầng tăng cho mỗi kết quả được chấp nhận hoặc không thể cải thiện an toàn mà không hy sinh phần lớn tính tự chủ hữu ích. Đây là các tín hiệu phản bác mạnh hơn sự chững lại tạm thời ở một chuẩn đánh giá.

Những điểm rút ra thực tế để lập kế hoạch

Phản ứng thực tế trước dự báo của Kurzweil là chuẩn bị cho AI tiến bộ nhanh hơn mà không để doanh nghiệp, sự nghiệp hay chính sách phụ thuộc vào một ngày duy nhất.

Tách năng lực hiện tại khỏi AGI

Tổ chức không cần AGI để hưởng lợi từ mô hình ngôn ngữ, tác nhân phần mềm, phân tích tài liệu hay quy trình tự động. Họ cần ghép từng công cụ với nhiệm vụ có phạm vi rõ ràng và xác minh nó thực hiện nhiệm vụ đó có hiệu quả kinh tế hay không.

Gọi mọi hệ thống hữu ích là AGI dẫn đến quyết định kém theo cả hai hướng. Nó khuyến khích tự chủ liều lĩnh khi mô hình không đáng tin cậy và tạo trì hoãn không cần thiết khi ứng dụng giới hạn có giám sát đã hoạt động.

Dùng thử nghiệm có thể hoàn tác

Quy trình triển khai hợp lý hạn chế chi phí khi sai:

  • Xác định nhiệm vụ, ràng buộc và bài kiểm tra chấp nhận trước khi chọn mô hình
  • Giữ các hành động hệ trọng sau phê duyệt rõ ràng cho đến khi đo được hiệu năng
  • Ghi lỗi theo mức độ nghiêm trọng và nguyên nhân thay vì gộp thành một điểm duy nhất
  • Lưu bản chụp, nhật ký và quy trình hoàn tác để phục hồi
  • So sánh tổng chi phí đã xác minh với quy trình hiện tại

Cách tiếp cận này vẫn hữu ích khi AI tiến bộ nhanh, không đồng đều hoặc chậm. Nó tạo bằng chứng có thể cập nhật chiến lược mà không cần tin vào ngày AGI xuất hiện chính xác.

Koder.ai cung cấp một cách để chạy loại thử nghiệm này cho phát triển phần mềm. Giao diện trò chuyện của nó có thể tạo ứng dụng web React, dịch vụ Go với cơ sở dữ liệu PostgreSQL và ứng dụng di động Flutter. Chế độ lập kế hoạch giúp xác định công việc trước khi triển khai, còn bản chụp và hoàn tác giúp các lần thử dễ đảo ngược hơn. Khả năng xuất mã nguồn, triển khai, lưu trữ và hỗ trợ tên miền riêng cho phép nhóm thử nghiệm ứng dụng mà vẫn giữ quyền kiểm soát thực tế với kết quả.

Những khả năng đó không phụ thuộc vào việc tuyên bố AGI đã xuất hiện. Chúng áp dụng AI hiện tại vào một quy trình cụ thể với đầu ra có thể kiểm tra. Nhà sáng lập có thể tạo nguyên mẫu website, CRM, ERP hoặc sản phẩm di động, thử với người dùng và quyết định liệu đầu tư thêm có hợp lý hay không.

Lập kế hoạch theo ba kịch bản

Kịch bản tiến bộ nhanh giả định tác nhân sớm trở nên đáng tin cậy trong các nhiệm vụ dài. Chuẩn bị nên tập trung vào thiết kế quyền hạn, năng lực đánh giá, tích hợp tổ chức và thử nghiệm nhanh.

Kịch bản tiến bộ không đồng đều giả định hiệu năng mạnh ở một số lĩnh vực song song với điểm yếu dai dẳng ở nơi khác. Chuẩn bị nên tập trung vào phân rã nhiệm vụ, chuyển việc đến hệ thống phù hợp và giữ rà soát của con người khi chi phí lỗi cao.

Kịch bản tiến bộ chậm giả định phương pháp hiện tại gặp giới hạn khó. Chuẩn bị nên ưu tiên đầu tư cũng cải thiện vận hành thông thường, như dữ liệu tốt hơn, quy trình rõ ràng hơn, phần mềm mô-đun và kiểm soát chất lượng đo được.

Quyết định hiệu quả trong cả ba kịch bản có giá trị hơn một khoản đặt cược lớn không thể đảo ngược chỉ thành công nếu một dự báo hoàn toàn chính xác.

Đặt câu hỏi chính xác cho mọi dự đoán

Trước khi hành động theo dự báo AGI, hãy xác định:

  • Hành vi quan sát được nào đủ điều kiện là AGI?
  • Xác suất nào gắn với năm được nêu?
  • Bằng chứng nào sẽ khiến người dự báo thay đổi mốc thời gian?
  • Những ràng buộc kỹ thuật hoặc xã hội nào bị loại khỏi mô hình?
  • Dự đoán sẽ được chấm thế nào nếu kết quả đến dưới dạng khác?

Dòng thời gian của Kurzweil hữu ích nhất khi xem như giả thuyết về tiến bộ công nghệ cộng dồn. Giá trị của nó nằm ở các phép đo và giả định mà nó mời người đọc xem xét, không phải ở việc coi một năm trên lịch là lời hứa. Hãy chuẩn bị bằng thử nghiệm có phạm vi rõ ràng, đánh giá độc lập và quyết định có thể hoàn tác, rồi đổi hướng khi bằng chứng thay đổi.

Câu hỏi thường gặp

Những dự đoán AGI chính của Ray Kurzweil là gì?

Kurzweil đưa ra hai mốc chính: năm 2029 cho trí tuệ máy ngang tầm con người và năm 2045 cho điểm kỳ dị công nghệ. Mốc đầu nói về AI sánh được với con người trong nhiều công việc trí óc, còn mốc sau mô tả thay đổi công nghệ diễn ra nhanh hơn nhiều do AI tiên tiến thúc đẩy.

Vượt qua bài kiểm tra Turing có chứng minh AI là AGI không?

Không. Bài kiểm tra Turing chủ yếu đo xem một hệ thống có thể giao tiếp thuyết phục như con người hay không. AGI cần làm được nhiều hơn: học việc lạ, lập kế hoạch cho nhiệm vụ dài, dùng công cụ đáng tin cậy, khắc phục sai sót và hoạt động tốt ngoài cuộc trò chuyện có kiểm soát.

Vì sao Kurzweil cho rằng tiến bộ AI sẽ tăng tốc?

Dự báo của ông dựa trên quy luật lợi suất tăng tốc. Ý tưởng là máy tính rẻ hơn, nhanh hơn và phần mềm tốt hơn giúp nhiều người xây dựng, thử nghiệm hệ thống mới, từ đó có thể đẩy nhanh vòng tiến bộ tiếp theo. Lập luận này phụ thuộc vào nhiều xu hướng cùng tiếp diễn, chứ không chỉ vào tốc độ bộ xử lý.

Dự báo AGI năm 2029 của Kurzweil đáng tin đến đâu?

Dòng thời gian này là một giả thuyết nghiêm túc, chưa phải sự thật đã được xác lập. Năng lực tính toán và AI đã cải thiện nhanh, nhưng không có quy tắc cố định nào cho biết thêm bao nhiêu năng lực tính toán sẽ tạo ra trí tuệ tổng quát. Độ tin cậy, dữ liệu, năng lượng, thuật toán, bảo mật và quy định triển khai đều có thể làm thay đổi mốc thời gian.

Những dự đoán nào của Kurzweil đã thành hiện thực?

Ông có một số dự đoán rất chính xác, trong đó có dự đoán máy tính sẽ đánh bại nhà vô địch cờ vua thế giới vào năm 1998. Deep Blue đã đánh bại Garry Kasparov năm 1997. Các dự đoán khác đúng về hướng đi chung nhưng kém chính xác hơn về thời điểm, mức độ phổ biến hoặc hình thức sản phẩm.

Bằng chứng nào sẽ ủng hộ một mốc thời gian AGI?

Các chuẩn đánh giá tốt hơn rất quan trọng, nhưng tự chúng chưa đủ. Hãy theo dõi những hệ thống hoàn thành nhiệm vụ dài đã được kiểm chứng với ít giám sát, chuyển sang các nhiệm vụ được tạo sau thời điểm huấn luyện, học an toàn từ trải nghiệm mới và giảm tổng chi phí cho mỗi kết quả được chấp nhận.

Vì sao các nhiệm vụ AI dài khó hơn một câu lệnh đơn lẻ?

Một mô hình có thể thành công với một câu lệnh khó nhưng vẫn thất bại trong dự án dài hơn. Những sai sót nhỏ tích lũy qua nhiều bước, nhất là khi một giả định sai ban đầu ảnh hưởng đến các hành động sau đó. Tác nhân đáng tin cậy cần lập kế hoạch, kiểm thử, phát hiện lỗi, phục hồi và giới hạn rõ ràng về phạm vi hành động.

Doanh nghiệp có cần chờ AGI mới dùng AI không?

AI hiện nay vẫn có thể tạo ra giá trị hữu ích mà không cần đáp ứng bất kỳ định nghĩa AGI nào. Tổ chức có thể dùng nó cho các công việc có phạm vi rõ ràng như soạn thảo, phân tích tài liệu, hỗ trợ lập trình, chăm sóc khách hàng và tự động hóa quy trình, rồi đo chất lượng, thời gian rà soát, chi phí và mức độ nghiêm trọng của lỗi.

Một công ty nên thử nghiệm AI an toàn như thế nào?

Hãy bắt đầu từ một nhiệm vụ hẹp, xác định kết quả chấp nhận được trông như thế nào và giữ các hành động tác động lớn dưới sự phê duyệt của con người. Theo dõi các lần chỉnh sửa, lỗi, tổng chi phí và thời gian tiết kiệm. Dùng nhật ký, bản chụp và tùy chọn hoàn tác để nhóm có thể nhanh chóng đảo ngược thay đổi xấu.

Bài học thực tế từ dự báo AGI của Kurzweil là gì?

Các mốc của Kurzweil hữu ích để lập kế hoạch, nhưng không nên dẫn đến các quyết định không thể đảo ngược. Hãy phát triển kỹ năng, làm sạch dữ liệu, cải thiện đánh giá và thực hiện thử nghiệm có thể hoàn tác. Những bước này đều hữu ích dù AI tiến bộ nhanh, không đồng đều hay chậm hơn dự kiến.

Related posts