Linimasa AGI Ray Kurzweil: Cara Ia Meramal Puluhan Tahun ke Depan

Mengapa prediksi AGI Kurzweil penting

Prediksi AGI Kurzweil penting karena mengubah keyakinan umum tentang kemajuan kecerdasan buatan menjadi rangkaian klaim bertanggal yang dapat diuji. Investor, peneliti, jurnalis, dan pemimpin bisnis dapat memperdebatkan ramalan tertentu dengan lebih produktif daripada memperdebatkan apakah mesin cerdas akan hadir suatu hari nanti.

Pendekatannya juga menawarkan penjelasan yang masuk akal tentang mengapa kemajuan dapat makin cepat. Komputer yang lebih baik membantu peneliti merancang komputer yang lebih baik. Perangkat lunak yang lebih mampu membantu membuat, menguji, dan menjalankan generasi perangkat lunak berikutnya. Turunnya biaya memungkinkan lebih banyak organisasi bereksperimen, lalu menghasilkan pengetahuan dan permintaan untuk investasi lanjutan.

Struktur ini tidak membuat tanggal-tanggalnya pasti benar. Struktur ini membuat penalarannya terlihat. Pembaca dapat memeriksa ukuran yang dipakai, mempertanyakan asumsi, dan mengenali bukti yang akan memperkuat atau melemahkan ramalan tersebut.

Perbedaannya penting karena peramalan teknologi jangka panjang menggabungkan beberapa prediksi berbeda. Perangkat keras harus membaik. Algoritme harus mengubah sumber daya menjadi kemampuan yang berguna. Data pelatihan atau cara belajar alternatif harus tetap tersedia. Sistem harus bekerja andal di luar demonstrasi. Organisasi dan pemerintah harus mengizinkan penerapannya. Kegagalan pada salah satu lapisan dapat menggeser linimasa AGI tanpa menghentikan kemajuan AI secara keseluruhan.

Ramalan Kurzweil semakin relevan ketika sistem AI serbaguna telah belajar menghasilkan teks, menulis perangkat lunak, menafsirkan gambar, memanggil alat, dan bekerja di berbagai bidang. Kemampuan itu membuat pembahasannya tidak lagi sepenuhnya hipotetis, tetapi belum menyelesaikan perdebatan. Kompetensi luas dalam antarmuka terkendali tidak sama dengan kecerdasan umum yang andal dalam lingkungan terbuka.

Karena itu, pertanyaan yang berguna bukan apakah Kurzweil optimistis atau pesimistis. Pertanyaannya adalah apakah modelnya menghubungkan masukan yang dapat diukur dengan kemampuan yang tersirat dalam AGI, dan apakah hubungan itu bertahan ketika berhadapan dengan rekayasa, ekonomi, dan perilaku manusia.

Siapa Ray Kurzweil

Ray Kurzweil adalah penemu, penulis, pengusaha, dan futurolog asal Amerika yang ramalannya tumbuh dari puluhan tahun membangun teknologi suara, membaca, dan musik.

Karyanya sebelum perdebatan AGI

Kurzweil membangun reputasinya melalui sistem praktis, bukan prediksi semata. Perusahaannya mengerjakan pengenalan karakter optik, sintesis teks-ke-suara, pengenalan suara, alat musik elektronik, dan teknologi membaca bagi penyandang tunanetra. Bidang-bidang ini membutuhkan kemajuan pada perangkat keras komputasi dan pengenalan pola, dua hal yang kemudian menjadi inti metode peramalannya.

Kariernya juga membuatnya memahami perbedaan antara hasil laboratorium dan produk. Akurasi pengenalan, harga komponen, kecepatan pemrosesan, distribusi, dan permintaan pengguna semuanya memengaruhi kapan suatu penemuan menjadi berguna dalam skala luas. Pengalaman ini membantu menjelaskan fokusnya pada kurva harga-kinerja, bukan demonstrasi teknis yang berdiri sendiri.

Kurzweil bergabung dengan Google pada 2012 untuk mengerjakan kecerdasan mesin dan pemahaman bahasa alami. Langkah ini menempatkannya di dalam organisasi yang berinvestasi besar pada komputasi skala besar dan riset AI, walaupun prediksi utamanya sudah ada sebelum peran tersebut.

Buku-buku di balik linimasa

Kurzweil mengembangkan argumennya melalui beberapa buku. The Age of Intelligent Machines membahas arah kecerdasan komputer. The Age of Spiritual Machines, yang terbit pada 1999, menyusun prediksi berdasarkan tanggal masa depan dan menggambarkan interaksi yang makin erat antara manusia dan komputer. The Singularity Is Near, yang terbit pada 2005, menyajikan versi paling terkenal dari tesis pengembalian yang makin cepat.

How to Create a Mind, yang terbit pada 2012, berfokus lebih dekat pada kognisi dan mengusulkan bahwa mekanisme pengenalan pola dapat membantu menjelaskan neokorteks. The Singularity Is Nearer, yang terbit pada 2024, meninjau kembali ramalan terdahulu setelah munculnya AI generatif modern dan mempertahankan tanggal utamanya, bukan menggantinya dengan jadwal baru.

Buku-buku ini tidak semuanya mendefinisikan kecerdasan dengan cara yang persis sama, tetapi memiliki satu argumen bersama: teknologi informasi membaik melalui proses yang saling memperkuat, dan proses itu pada akhirnya akan membuat kecerdasan mesin sebanding dengan kecerdasan manusia.

Istilah-istilah ini perlu didefinisikan secara terpisah

Tiga istilah sering dicampuradukkan, padahal masing-masing menggambarkan klaim yang berbeda:

• Kecerdasan umum buatan adalah sistem yang mampu belajar, bernalar, dan menerapkan pengetahuan pada berbagai tugas baru yang luas, bukan hanya bekerja dalam satu keahlian sempit.
• AI setara manusia berarti kinerja yang sebanding dengan manusia, tetapi setiap klaim yang memakai istilah ini harus menjelaskan manusia yang mana, tugas apa, seberapa banyak bantuan yang diperbolehkan, dan tingkat kesalahan seperti apa yang dianggap sebanding.
• Singularitas teknologi adalah periode perubahan yang sangat cepat menurut Kurzweil, setelah kecerdasan mesin dan teknologi manusia cukup kuat untuk mengubah masyarakat lebih cepat daripada peramalan konvensional dapat mengikutinya.

Sebuah mesin dapat memenuhi satu definisi operasional AI setara manusia tanpa memenuhi definisi AGI yang ketat. AGI juga dapat muncul sebelum masyarakat mengalami sesuatu yang menyerupai singularitas. Menganggap istilah-istilah ini sebagai sinonim membuat linimasa terlihat lebih presisi daripada kenyataannya.

Linimasa AGI Kurzweil yang sebenarnya

Ramalan utama Kurzweil menempatkan kecerdasan mesin setara manusia sekitar 2029 dan singularitas teknologi sekitar 2045.

Isi prediksi 2029

Kurzweil mengaitkan 2029 dengan mesin yang lulus uji Turing yang sah dan mencapai kecerdasan setara manusia. Dalam evaluasi bergaya Turing, seorang penilai manusia berkomunikasi dengan peserta yang tidak terlihat dan mencoba menentukan apakah peserta itu manusia atau buatan.

Kata sah memikul banyak beban. Percakapan singkat dengan penilai yang tidak siap adalah bukti lemah karena sistem dapat meniru bahasa manusia sambil gagal dalam perencanaan, konsistensi fakta, atau pekerjaan yang belum dikenal. Uji yang lebih kuat perlu melibatkan evaluator terampil, interaksi berkelanjutan, pertanyaan yang menantang, serta pengendalian terhadap jawaban hafalan atau bantuan manusia tersembunyi.

Bahkan uji Turing yang ketat hanya mengukur peniruan perilaku melalui percakapan. Uji itu sendiri tidak membuktikan otonomi yang andal, kompetensi fisik, kesadaran, atau kemampuan menguasai setiap tugas intelektual. Tulisan Kurzweil yang lebih luas menyiratkan sesuatu yang lebih dari chatbot yang meyakinkan, sehingga penilaian ramalannya memerlukan serangkaian tonggak yang lebih luas.

Isi prediksi 2045

Kurzweil mengaitkan 2045 dengan transisi yang jauh lebih besar, ketika kecerdasan mesin meningkat drastis dan teknologi terintegrasi secara mendalam dengan kehidupan manusia. Penalarannya mencakup riset yang dibantu AI dengan cepat, kemajuan komputasi yang berkelanjutan, dan hubungan yang lebih erat antara kognisi biologis serta nonbiologis.

Jadi, tanggal itu bukan sekadar prediksi bahwa komputer akan makin cepat. Tanggal tersebut bergantung pada kecerdasan yang menghasilkan kemajuan teknologi berikutnya dengan laju luar biasa. AI yang lebih baik harus membantu memperbaiki algoritme, perangkat keras, kedokteran, manufaktur, dan penemuan ilmiah. Perbaikan itu lalu harus memberi umpan balik ke sistem yang menghasilkannya.

Siklus umpan balik dapat mempercepat kemajuan tanpa menjadi tak terbatas. Eksperimen tetap memerlukan waktu, pembangunan pabrik mengikuti jadwal, proses fisik memiliki batas, dan lembaga meninjau perubahan yang berdampak besar. Kekuatan setiap kendala menentukan apakah peningkatan tampak meledak, sekadar cepat, atau tidak merata di berbagai bidang.

Tonggak membuat ramalan dapat diuji

Beberapa kemampuan yang dapat diamati akan memberikan bukti lebih kuat daripada satu uji percakapan:

• Berpindah cepat ke tugas baru dengan sedikit pelatihan khusus tugas
• Merencanakan dan pulih secara andal sepanjang rangkaian tindakan yang panjang
• Belajar terus-menerus tanpa menghapus keterampilan yang sudah diperoleh
• Menggunakan alat secara akurat di bawah kendala dunia nyata yang berubah
• Memiliki kegunaan ekonomi yang luas tanpa pengawasan ahli terus-menerus

Tonggak ini menjaga janji utama ramalan sambil menghindari perdebatan biner tentang satu tanggal. Tonggak ini juga membuat kemajuan parsial terlihat. Sistem mungkin menguasai penggunaan alat tetapi tetap lemah dalam pembelajaran berkelanjutan, atau bekerja baik di perangkat lunak sambil kesulitan menghadapi lingkungan fisik.

Rekam jejak peramalan Kurzweil

Rekam jejak Kurzweil mencakup keberhasilan penting, prediksi arah yang luas, dan kekeliruan yang terlihat ketika prediksi dinilai berdasarkan kata-kata serta tenggat aslinya.

Keberhasilan jelas dalam catur komputer

Salah satu keberhasilan yang paling sering dikutip berkaitan dengan catur. Pada 1990, Kurzweil memprediksi bahwa komputer akan mengalahkan juara dunia catur manusia sebelum 1998. Deep Blue dari IBM mengalahkan Garry Kasparov dalam pertandingan pada 1997.

Contoh ini sangat kuat karena peristiwa, lawan, dan tenggatnya dapat diidentifikasi. Contoh ini juga menyangkut bidang formal dengan aturan tetap, kinerja yang dapat diukur, serta insentif kuat untuk meningkatkan perangkat keras khusus dan algoritme pencarian. Kondisi tersebut membuat catur lebih mudah diramalkan daripada kecerdasan terbuka.

Hasilnya menunjukkan bahwa mesin dapat melampaui kinerja manusia elit dalam tugas intelektual yang menuntut. Namun, itu tidak menunjukkan bahwa sistem yang sama dapat memindahkan kemampuannya ke masalah lain. Perbedaan antara kinerja sempit yang luar biasa dan kompetensi umum tetap menjadi inti perdebatan AGI.

Prediksi yang tepat secara arah

Kurzweil mengantisipasi komputasi portabel yang meluas, akses nirkabel, dokumen digital, teknologi suara konsumen, dan sistem AI yang melampaui manusia dalam tugas pengenalan pola tertentu. Arah umum prediksi ini sesuai dengan perkembangan berikutnya.

Rinciannya kurang seragam. Komputasi portabel menjadi dominan terutama melalui smartphone dan laptop, bukan kumpulan perangkat wearable persis seperti yang dijelaskan dalam beberapa skenario. Pengenalan suara menjadi tersedia luas, tetapi dikte berkelanjutan tidak menggantikan keyboard sebagai cara standar kebanyakan orang membuat teks pada 2009. Media digital berkembang pesat sementara kertas tetap digunakan di kantor, pendidikan, pemerintahan, dan kehidupan pribadi.

Ramalan layak mendapat nilai sebagian ketika peralihan yang mendasarinya terjadi melalui produk atau pola adopsi berbeda. Ramalan tidak seharusnya mendapat nilai penuh jika klaim aslinya memuat tanggal, tingkat penyebaran, atau bentuk perangkat yang meleset. Arah dan waktu menjawab pertanyaan yang berbeda.

Prediksi yang datang lambat atau masih belum pasti

Beberapa skenario memperkirakan lingkungan virtual imersif yang rutin, percakapan mesin yang sangat meyakinkan, dan integrasi yang jauh lebih dekat antara tubuh serta komputer lebih awal daripada yang tercapai dalam penggunaan sehari-hari. Unsur dari gagasan itu muncul melalui realitas virtual, perangkat bantu, implan medis, dan model generatif, tetapi ketersediaan tidak sama dengan adopsi luas.

Preferensi sosial juga dapat menggagalkan ramalan yang secara teknis mungkin. Orang dapat menolak perangkat karena tidak nyaman, mahal, mengganggu, canggung secara sosial, sulit diperbaiki, atau terlalu invasif. Kurva yang mengukur kinerja komponen tidak menangkap keberatan-keberatan ini.

Mengapa persentase akurasi dapat menyesatkan

Kurzweil melakukan evaluasi retrospektif atas prediksi dari karya terdahulunya dan melaporkan tingkat keberhasilan tinggi menurut metode penilaiannya. Tinjauan itu bukan audit independen yang dilakukan secara buta, dan banyak klaim mengizinkan kategori seperti pada dasarnya benar atau benar secara arah.

Setiap tinjauan yang adil perlu mencatat empat hal secara terpisah:

• Hasil persis yang diprediksi
• Tenggat dan toleransi yang dapat diterima
• Ambang keberhasilan yang dapat diukur
• Apakah evaluator memilih kriterianya sebelum melihat hasilnya

Prediksi tentang harga transistor lebih mudah dinilai daripada prediksi bahwa komputer akan menjadi tak terlihat atau percakapan mesin akan terasa normal. Menggabungkan keduanya ke dalam satu persentase menyembunyikan perbedaan besar dalam kekhususan dan tingkat kesulitan.

Bagaimana hukum pengembalian yang makin cepat menghasilkan ramalan ini

Hukum pengembalian yang makin cepat menghasilkan linimasa Kurzweil dengan memperlakukan kemajuan teknologi sebagai proses yang saling memperkuat, ketika setiap generasi alat berkontribusi pada generasi berikutnya.

Perubahan linear dan eksponensial

Proses linear menambahkan jumlah yang sama pada setiap periode. Jika sebuah sistem memperoleh kapasitas 10 unit setiap tahun, kapasitasnya bergerak dari 10 ke 20, lalu 30, lalu 40. Proses eksponensial mengalikan dengan faktor yang konsisten. Lima kali pelipatan mengubah 10 unit menjadi 320.

Tahap awal pertumbuhan eksponensial dapat tampak sederhana karena perubahan absolutnya kecil. Tahap berikutnya terasa mendadak meskipun laju pengaliannya tidak berubah. Kurzweil berpendapat bahwa intuisi manusia sering mengharapkan perubahan linear sehingga meremehkan teknologi informasi yang tumbuh secara majemuk.

Kurva teknis nyata jarang mengikuti eksponensial sempurna. Laju pertumbuhan bervariasi, pengukuran mengandung gangguan, dan metode tertentu mencapai batas. Klaimnya adalah tren harga-kinerja yang lebih luas dapat berlanjut melalui metode-metode berikutnya, bahkan ketika satu metode melambat.

Harga-kinerja lebih penting daripada kapasitas mentah

Kemampuan yang terbatas pada sistem riset mahal memiliki jangkauan terbatas. Ketika biayanya turun, universitas, startup, perusahaan mapan, dan individu dapat menjalankan lebih banyak eksperimen. Penggunaan yang lebih luas menciptakan permintaan infrastruktur, mengungkap pola kegagalan, dan mendukung bisnis yang membiayai pengembangan lanjutan.

Inilah alasan Kurzweil sering menelaah komputasi per satuan biaya. Prosesor baru yang lebih cepat tetapi proporsional lebih mahal mungkin tidak memperluas akses. Sistem yang menyelesaikan pekerjaan sama dengan lebih sedikit chip, energi, atau model yang lebih kecil dapat mengubah adopsi tanpa mencetak rekor kinerja mentah.

Untuk AI, penyebut yang relevan makin mengarah pada biaya hasil yang telah diverifikasi, bukan biaya satu operasi atau token. Model murah yang memerlukan koreksi ekstensif dapat berbiaya lebih tinggi per tugas yang selesai daripada model lebih mahal dengan tingkat kesalahan lebih rendah.

Pergeseran paradigma memperpanjang kurva

Argumen Kurzweil lebih luas daripada kelanjutan permanen penskalaan transistor. Kalkulator mekanis, relai, tabung vakum, transistor, sirkuit terpadu, akselerator khusus, dan sistem terdistribusi dapat dipandang sebagai cara-cara berturut-turut untuk menyediakan komputasi.

Ketika satu pendekatan menghadapi batas fisik atau ekonomi, investasi dapat berpindah ke pendekatan lain. Karena itu, kurva historis dapat berlanjut melintasi perubahan mekanisme. Ini adalah klaim yang lebih kuat daripada hukum Moore, tetapi juga lebih sulit diuji karena kategorinya dapat diperluas setiap kali teknologi tertentu terhenti.

Beberapa kurva harus tumbuh bersama

Komputasi saja tidak cukup. Memori, komunikasi, efisiensi perangkat lunak, arsitektur model, kualitas data, dan produktivitas riset memengaruhi kemampuan akhir. Kemajuan dapat meningkat ketika perbaikan saling menguatkan, misalnya algoritme yang lebih baik mengurangi perangkat keras yang dibutuhkan untuk suatu tugas.

Kebalikannya juga mungkin. Kekurangan data berkualitas tinggi, keterbatasan pasokan listrik, bandwidth memori, atau evaluasi yang buruk dapat membuat prosesor mahal kurang dimanfaatkan. Ramalan yang hanya didasarkan pada satu masukan yang meningkat akan melewatkan interaksi ini.

Apa yang didukung bukti dan apa yang tidak

Bukti sangat mendukung perbaikan berkelanjutan dalam banyak masukan AI, tetapi tidak menetapkan tingkat konversi tetap antara masukan tersebut dan kecerdasan umum.

Bukti dari komputasi dan algoritme

Catatan jangka panjang menunjukkan peningkatan besar pada harga-kinerja komputasi, penyimpanan, kapasitas jaringan, dan kemampuan perangkat lunak. AI juga mendapat manfaat dari prosesor khusus, pelatihan terdistribusi, format numerik yang lebih baik, optimisasi yang lebih baik, dan algoritme yang mencapai hasil target dengan sumber daya lebih sedikit.

Hukum penskalaan memberikan bukti lain. Dalam rentang yang telah diuji dan pengaturan pelatihan tertentu, perubahan ukuran model, data, dan komputasi dapat menghasilkan perubahan yang relatif dapat diprediksi pada loss pelatihan. Prediktabilitas ini membantu laboratorium merencanakan pelatihan skala besar dan memperkirakan pertukaran antar sumber daya.

Hukum penskalaan bukan hukum kecerdasan. Loss pelatihan yang lebih rendah tidak menjamin jawaban jujur, tujuan yang koheren, pemahaman kausal, atau keberhasilan dalam proyek panjang. Ekstrapolasi di luar rentang yang diuji juga mengasumsikan distribusi data, arsitektur, dan evaluasinya tetap bermakna.

Bukti dari kemampuan AI yang luas

Model serbaguna dapat melakukan tugas yang dulu memerlukan sistem terpisah, termasuk menulis, menerjemahkan, menafsirkan gambar, menghasilkan perangkat lunak, menganalisis dokumen, dan memanggil alat. Satu model sering dapat berpindah di antara aktivitas ini melalui instruksi, bukan pelatihan ulang.

Keluasan ini relevan bagi AGI karena melemahkan anggapan bahwa setiap aktivitas intelektual memerlukan program yang direkayasa secara terpisah. Ini juga menunjukkan bahwa kemampuan dapat muncul bersama ketika model belajar dari data yang beragam.

Kesenjangan yang tersisa berkaitan dengan kinerja yang andal. Sistem dapat memecahkan masalah sulit lalu gagal pada variasi yang lebih sederhana, menerima premis salah, mengarang sumber, atau kehilangan jejak kendala selama pekerjaan panjang. Keberhasilan sesekali menunjukkan kemungkinan. Kecerdasan umum memerlukan tingkat keberhasilan yang cukup tinggi dalam kondisi yang belum dikenal.

Mengapa hasil tolok ukur memerlukan konteks

Tolok ukur berguna ketika berisi tugas yang belum terlihat, memakai penilaian yang jelas, tahan terhadap kontaminasi, dan mengukur perilaku yang berkaitan dengan pekerjaan nyata. Tolok ukur menjadi kurang informatif setelah data pelatihan menyerap pertanyaannya atau pengembang mengoptimalkan sistem langsung untuk aturan penilaiannya.

Program evaluasi yang kredibel perlu memisahkan pengujian pengembangan dari pengujian akhir privat, mencatat penggunaan sumber daya, mengulang percobaan, dan melaporkan distribusi kegagalan, bukan hanya rata-rata. Program ini juga perlu membandingkan sistem dengan acuan manusia yang tepat. Menyamai pemula pada satu tes berbeda dengan menyamai profesional terlatih dalam batas waktu dan alat yang sama.

Uji alur kerja nyata menambahkan informasi yang tidak terlihat dalam tes statis. Uji ini menunjukkan apakah sistem meminta detail yang kurang, memeriksa hasil kerjanya, pulih setelah kesalahan, dan mengenali kapan harus berhenti. Perilaku seperti itu lebih penting untuk penerapan daripada sedikit kenaikan lagi pada kumpulan tes yang sudah jenuh.

Masukan lebih mudah diukur daripada hasil

Komputasi, penyimpanan, dan bandwidth memiliki satuan yang stabil. Generalitas, penilaian, kemampuan beradaptasi, dan akal sehat tidak. Peneliti dapat menghitung prosesor dengan tepat sambil tetap berbeda pendapat apakah tugas yang selesai menunjukkan penalaran atau pencocokan pola yang canggih.

Ketidakcocokan pengukuran ini memberi ramalan kuantitatif kesan presisi yang mungkin tidak didukung variabel sasarannya. Data masukan yang lebih baik hanya mempersempit satu bagian dari ketidakpastian.

Asumsi di balik prediksi AGI puluhan tahun ke depan

Linimasa Kurzweil bergantung pada tumpukan asumsi, dan tanggalnya dapat bergeser besar jika salah satunya gagal.

Komputasi tetap tersedia secara ekonomis

Ramalan ini mengasumsikan organisasi dapat terus memperluas komputasi yang berguna melalui chip yang lebih baik, sistem yang lebih besar, pemanfaatan yang lebih baik, atau inferensi berbiaya lebih rendah. Kapasitas manufaktur, belanja modal, listrik, pendinginan, memori, jaringan, dan perdagangan internasional semuanya memengaruhi ketersediaan tersebut.

Batas fisik tidak harus menghentikan kemajuan untuk mengubah linimasa. Laju peningkatan yang lebih lambat selama beberapa tahun akan berkembang secara majemuk menjadi perbedaan besar dari proyeksi awal.

Algoritme terus mengubah sumber daya menjadi kemampuan

Komputasi tambahan harus terus menghasilkan peningkatan yang bermakna. Hal ini dapat terjadi dengan menskalakan metode yang ada, menemukan arsitektur lebih efisien, memperbaiki tujuan pelatihan, atau menggabungkan model terlatih dengan pencarian, memori, alat, dan verifikasi formal.

Asumsi ini lebih kuat daripada sekadar memprediksi perangkat keras lebih cepat. Penemuan algoritmik tidak datang mengikuti jadwal manufaktur yang teratur, dan nilainya dapat berbeda di setiap bidang.

Pembelajaran tidak terhambat oleh batas data

Sistem masa depan membutuhkan pengalaman yang berguna. Pengalaman itu dapat berasal dari materi buatan manusia, pengamatan multimodal, simulasi, interaksi, contoh sintetis, umpan balik, atau eksperimen yang dilakukan sistem itu sendiri.

Data sintetis bukan pengganti otomatis untuk bukti eksternal. Jika model menghasilkan materi dari kesalahannya sendiri dan tidak menerima sinyal korektif, pelatihan dapat memperkuat kesalahan itu. Simulasi juga sulit dipindahkan ke dunia nyata ketika mengabaikan sifat-sifat yang penting di lingkungan sebenarnya.

Kognisi manusia dapat direproduksi oleh mesin

Kurzweil mengasumsikan kecerdasan muncul dari proses informasi fisik yang dapat dipahami dan diterapkan dalam sistem nonbiologis. Perkiraannya sering membandingkan komputasi yang tersedia dengan model otak dan memperlakukan neurosains sebagai sumber wawasan rekayasa.

Posisi ini tidak mengharuskan penyalinan setiap neuron. Posisi ini memang memerlukan keyakinan bahwa tidak ada mekanisme biologis yang belum diketahui yang menciptakan hambatan tak teratasi. Perkiraan komputasi berbasis otak berbeda-beda karena peneliti menghitung operasi, sinaps, lonjakan sinyal, proses biokimia, dan efisiensi belajar dengan cara berbeda.

AI yang lebih baik mempercepat riset AI

Versi paling cepat dari ramalan ini mengharuskan AI memberi kontribusi nyata terhadap peningkatannya sendiri. Menulis kode hanya satu bagian dari siklus itu. Sistem riset perlu merumuskan hipotesis berguna, merancang eksperimen, menafsirkan hasil negatif, dan membedakan kemajuan nyata dari overfitting terhadap tolok ukur.

Peningkatan diri juga bergantung pada akses. Model yang mampu tidak dapat merancang ulang perangkat keras, menjalankan eksperimen besar, atau menerapkan penerusnya tanpa sumber daya dan izin dari manusia. Kecerdasan dapat memperpendek beberapa tahap, sementara hambatan eksternal tetap ada.

Apa yang dapat menunda atau mendefinisikan ulang AGI

AGI dapat datang lebih lambat daripada prediksi karena keandalan, pembelajaran, keamanan, dan penerapan menjadi faktor pembatas meski kemampuan model terus meningkat.

Tugas panjang melipatgandakan tingkat kesalahan kecil

Sistem dapat tampak akurat pada langkah-langkah individual namun tetap gagal dalam sebagian besar proyek panjang. Jika setiap langkah berhasil secara independen 99 persen dari waktu, peluang menyelesaikan 100 langkah wajib tanpa kesalahan hanya sekitar 37 persen.

Kegagalan nyata sering saling berkaitan, sehingga hasilnya dapat lebih buruk. Asumsi keliru di awal dapat mencemari setiap tindakan berikutnya. Karena itu, kemajuan bergantung pada pendeteksian kesalahan, revisi rencana, penyimpanan status, pengujian hasil antara, dan peningkatan keputusan yang ambigu kepada manusia.

Inilah sebabnya durasi tugas otonom lebih mengungkap daripada kualitas satu respons. Model yang menyelesaikan tugas delapan jam yang terverifikasi mengubah cara kerja secara berbeda dari model yang perlu dikoreksi setiap beberapa menit.

Pembelajaran berkelanjutan masih sulit

Manusia memperoleh pengetahuan baru melalui pengalaman sambil mempertahankan banyak hal yang sudah diketahui. Sistem AI yang diterapkan sering mengandalkan pemisahan antara pelatihan dan penggunaan. Memperbaruinya dapat memerlukan dataset baru, evaluasi, dan satu siklus pelatihan lagi.

Kandidat AGI perlu mampu belajar dengan aman dari interaksi tanpa menyerap instruksi berbahaya, informasi pribadi, atau kepalsuan yang tidak disengaja. Sistem itu juga perlu mengetahui pelajaran mana yang hanya berlaku untuk satu situasi dan mana yang dapat digeneralisasi. Pemecahan masalah ini mencakup desain memori, kontrol akses, asal-usul data, dan perlindungan dari lupa katastrofik.

Agensi menciptakan masalah keamanan

Model yang hanya menyarankan teks memiliki ruang tindakan terbatas. Sistem yang berwenang mengirim pesan, mengubah perangkat lunak, membelanjakan uang, mengoperasikan mesin, atau mengelola akun dapat menimbulkan kerusakan karena salah paham kecil.

Karena itu, otonomi yang lebih besar meningkatkan kebutuhan akan izin yang dibatasi ruang lingkupnya, gerbang persetujuan, log audit, eksekusi terisolasi, dan prosedur pemulihan. Pengendalian ini dapat memperlambat tindakan, tetapi menghapusnya tidak meningkatkan kecerdasan. Hal itu memindahkan biaya kesalahan kepada pengguna dan orang di sekitarnya.

Kompetensi fisik mungkin tertinggal dari kompetensi digital

Kecerdasan yang diekspresikan lewat perangkat lunak mendapat manfaat dari lingkungan yang cepat dan dapat diulang. Pekerjaan fisik harus menghadapi gesekan, kerusakan, sensor yang tidak pasti, objek tidak biasa, cuaca yang berubah, dan keselamatan di sekitar manusia.

Sistem AI dapat menjadi sangat cakap dalam riset, analisis, komunikasi, dan perangkat lunak sebelum robot mencapai keluwesan yang sebanding. Apakah keadaan itu disebut AGI bergantung pada definisinya. Menuntut adaptasi fisik setara manusia menetapkan standar lebih tinggi daripada menuntut pekerjaan kognitif umum melalui komputer.

Lembaga mungkin menuntut bukti lebih kuat

Kedokteran, keuangan, transportasi, administrasi publik, dan infrastruktur kritis memiliki konsekuensi yang tidak ditangkap tes tolok ukur biasa. Perusahaan asuransi, regulator, pengadilan, pelanggan, dan badan profesi mungkin memerlukan kinerja terdokumentasi sebelum mengizinkan operasi otonom.

Penundaan ini tidak menunjukkan bahwa model dasarnya tidak cerdas. Ini menunjukkan bahwa kemampuan dan izin adalah tonggak yang terpisah. Ramalan tentang kelayakan teknis tidak boleh diam-diam mengasumsikan penerapan sosial yang langsung.

Kritik utama terhadap pendekatan Kurzweil

Kritik utama terhadap metode Kurzweil adalah bahwa tren teknologi informasi yang andal tidak otomatis menentukan tanggal munculnya kemampuan kognitif yang definisinya belum jelas.

Pemilihan tren dapat membentuk jawaban

Kurva historis panjang bergantung pada keputusan tentang teknologi, harga, dan ukuran kinerja apa yang termasuk dalam dataset. Menggabungkan metode komputasi yang berturut-turut mungkin memperlihatkan pola nyata, tetapi juga memberi analis keluwesan untuk mempertahankan pola itu setelah satu rangkaian data berubah arah.

Tanggal awal dan akhir juga penting. Periode peningkatan cepat yang singkat dapat terlihat eksponensial selamanya, sementara rata-rata jangka panjang dapat menyembunyikan perlambatan baru-baru ini. Ramalan perlu menerbitkan pengamatan dasarnya dan menunjukkan bagaimana hasil berubah dengan jendela waktu alternatif.

Kecerdasan mungkin bukan satu kuantitas yang dapat diskalakan

Kinerja tidak meningkat merata dalam penalaran, memori, penilaian sosial, persepsi, kontrol motorik, dan akurasi faktual. Sistem dapat meningkat jauh di satu area sambil tetap tidak andal di area lain.

Ketidakmerataan ini menantang perbandingan antara kapasitas mesin dan perkiraan kapasitas komputasi otak. Mencapai ambang operasi numerik tidak menunjukkan algoritme, representasi, pengalaman perkembangan, atau arsitektur yang diperlukan untuk memakai operasi tersebut secara efektif.

Sistem kompleks mengalami perubahan rezim

Hubungan historis dapat rusak ketika rekayasa, ekonomi, atau kebijakan berubah. Manufaktur dapat bergerak menuju biaya lebih tinggi. Permintaan energi dapat bertemu batas jaringan listrik lokal. Regulasi dapat membatasi data pelatihan atau penerapan. Konsumen dapat menolak produk yang mengumpulkan informasi sensitif.

Perubahan ini tidak membantah kemajuan majemuk sebagai pengamatan umum. Namun, perubahan ini melemahkan keyakinan pada tanggal kalender yang diturunkan dari asumsi bahwa laju sebelumnya akan bertahan.

Peningkatan rekursif tidak dijamin meledak

Peneliti AI yang cakap mungkin menemukan perbaikan mudah lebih dulu lalu menghadapi masalah yang lebih sulit. Setiap generasi dapat menghasilkan peningkatan lebih kecil, memerlukan verifikasi lebih banyak, atau bergantung pada eksperimen fisik berdurasi tetap.

Perangkat lunak kadang dapat disalin dan diuji dengan cepat, tetapi fabrikasi chip, riset klinis, konstruksi, dan infrastruktur energi bergerak dengan jam yang berbeda. Klaim singularitas membutuhkan model untuk proses pembatas tersebut, bukan hanya model kecerdasan perangkat lunak.

Perumusan yang lentur melemahkan kemampuan untuk dibuktikan salah

Prediksi menjadi sulit dibantah ketika istilah seperti kecerdasan, penyatuan, ada di mana-mana, atau setara manusia tetap terbuka untuk ditafsirkan ulang. Model percakapan, implan medis, dan smartphone semuanya dapat dipresentasikan sebagai konfirmasi sebagian atas integrasi manusia-mesin yang luas.

Peramalan yang baik menetapkan aturan penilaian sebelum tenggat. Jika ambang asli berubah setelah hasilnya terlihat, kegiatan itu mengukur keluwesan narasi, bukan ketepatan prediksi.

Cara peramal lain memperkirakan linimasa AGI

Peramal lain memperkirakan AGI melalui survei pakar, model komputasi, tren kemampuan, skenario terstruktur, dan pasar prediksi. Masing-masing mengungkap sumber ketidakpastian yang berbeda.

Survei pakar

Survei menanyakan kepada peneliti kapan mereka memberikan probabilitas tertentu pada kecerdasan mesin setara manusia atau otomatisasi tugas tertentu. Survei menangkap penilaian dari orang yang bekerja dekat dengan teknologi dan dapat menunjukkan bagaimana keyakinan berubah setelah hasil penting muncul.

Jawabannya sangat bergantung pada sampel dan perumusan pertanyaan. Survei terhadap penulis konferensi pembelajaran mesin dapat berbeda dari survei yang berfokus pada robotika, neurosains, keselamatan, atau ekonomi. Menanyakan kapan AI dapat melakukan sebagian besar pekerjaan berbayar tidak sama dengan menanyakan kapan AI dapat mengungguli manusia dalam setiap tugas.

Pertanyaan probabilitas lebih informatif daripada tuntutan untuk memilih satu tahun. Peramal yang memberikan tanggal untuk peluang 10 persen, 50 persen, dan 90 persen menyampaikan distribusi, bukan menyembunyikan ketidakpastian di balik satu perkiraan.

Model berbasis komputasi

Model komputasi memperkirakan sumber daya yang diperlukan untuk mereproduksi aspek-aspek relevan dari kognisi manusia, lalu meramalkan kapan sumber daya tersebut mungkin terjangkau. Pendekatan jangkar biologis adalah salah satu versi metode ini.

Perhitungannya cukup transparan untuk direvisi, tetapi ketidakpastiannya luas. Peneliti harus memperkirakan komputasi otak, kebutuhan pelatihan, efisiensi algoritmik, harga perangkat keras, dan bagian kognisi yang harus direproduksi oleh sistem praktis. Mengalikan beberapa perkiraan yang tidak pasti dapat menghasilkan rentang tanggal yang lebar.

Peramalan berbasis kemampuan

Ramalan kemampuan melacak kinerja pada tugas yang didefinisikan dan memperkirakan laju sistem menutup kesenjangan. Sasaran yang berguna mencakup proyek perangkat lunak, pemecahan masalah ilmiah, permainan baru, bantuan riset, dan operasi dalam lingkungan interaktif.

Metode ini dekat dengan keluaran yang dapat diamati. Kelemahannya, kemajuan tolok ukur mungkin tidak berlanjut pada laju yang sama, dan kumpulan kemenangan pada tugas tertentu masih dapat melewatkan kemampuan yang diperlukan untuk operasi umum.

Perencanaan skenario dan pasar prediksi

Perencanaan skenario mengembangkan beberapa masa depan yang konsisten secara internal, bukan memilih satu. Skenario cepat mungkin menggabungkan algoritme efisien, infrastruktur melimpah, dan riset yang berhasil dibantu AI. Skenario lambat mungkin mencakup hasil yang makin kecil, rekayasa keselamatan yang sulit, atau penerapan terbatas.

Pasar prediksi dan platform peramalan menambahkan insentif bagi perkiraan yang terkalibrasi serta memungkinkan keyakinan diperbarui setelah bukti baru muncul. Kegunaannya bergantung pada kriteria penyelesaian yang jelas. Pasar tidak dapat diselesaikan secara adil jika peserta berbeda pendapat tentang peristiwa yang memenuhi syarat sebagai AGI.

Tidak ada metode yang menghapus ketidakpastian definisi. Membandingkan ramalan dimulai dengan menerjemahkannya ke sasaran, standar bukti, dan tingkat probabilitas yang sama.

Sinyal yang akan memperkuat atau melemahkan ramalan

Sinyal terkuat akan mengukur kompetensi yang dapat dipindahkan, otonomi berkelanjutan, efisiensi belajar, ekonomi yang terverifikasi, dan penerapan aman, bukan publisitas di sekitar demonstrasi tunggal.

Berpindah ke pekerjaan yang benar-benar baru

Sistem kuat harus bekerja baik pada tugas yang dibuat setelah batas pelatihannya dan disembunyikan dari pengembang. Sistem itu harus menyimpulkan aturan yang belum dikenal, meminta informasi yang kurang, dan menerapkan pengetahuan dari satu bidang ke bidang lain tanpa proyek pelatihan khusus.

Evaluator perlu memvariasikan perumusan, alat, format data, dan kendala lingkungan. Keberhasilan di berbagai variasi ini memberi bukti generalitas yang lebih baik daripada menghafal gaya tes yang sudah dikenal.

Cakrawala tugas otonom yang lebih panjang

Lacak durasi dan kerumitan tugas yang diselesaikan sesuai standar penerimaan yang ditentukan. Ukuran yang berguna mencakup percobaan ulang, intervensi manusia, waktu verifikasi, dan kegagalan yang membuat lingkungan berada dalam kondisi lebih buruk.

Peningkatan durasi demonstrasi maksimum kurang bermakna daripada peningkatan durasi tugas andal median. Kinerja yang dapat diulang dalam banyak percobaan menunjukkan apakah perencanaan dan pemulihan telah membaik.

Biaya lebih rendah per hasil yang diterima

Harga token dan ukuran model tidak mengukur nilai bisnis secara langsung. Biaya per hasil yang diterima mencakup penggunaan model, alat, peninjauan, koreksi, infrastruktur, dan kerugian akibat kesalahan.

Biaya terverifikasi yang turun di berbagai jenis pekerjaan akan mendukung argumen pengembalian yang makin cepat karena memungkinkan lebih banyak eksperimen dan adopsi lebih luas. Biaya yang tetap tinggi karena pengawasan atau pengerjaan ulang akan melemahkan klaim yang hanya didasarkan pada inferensi murah.

Pembelajaran aman setelah penerapan

Bukti kecerdasan umum akan lebih kuat jika sistem dapat memasukkan pengalaman baru tanpa pelatihan ulang tanpa batas dan tanpa kehilangan kompetensi sebelumnya. Tes perlu memeriksa apakah sistem membedakan bukti tepercaya dari manipulasi, menjaga batas privasi, dan dapat menjelaskan asal keyakinan baru.

Kemajuan di sini akan mengatasi perbedaan besar antara model statis dan pekerja adaptif. Kegagalan akan membuat organisasi bergantung pada siklus pembaruan eksternal, bahkan ketika model individual tampak berpengetahuan luas.

Bukti operasional independen

Penerapan yang diaudit dapat menunjukkan apakah AI menghasilkan keuntungan berkelanjutan dalam perangkat lunak, sains, dukungan, operasi, dan bidang lain. Laporan yang berguna mencakup definisi tugas, kinerja dasar, tingkat keparahan kesalahan, kebutuhan pengawasan, dan total biaya.

Bukti yang menentang linimasa tercepat dapat mencakup durasi tugas andal yang datar, kegagalan terus-menerus pada variasi sederhana, biaya infrastruktur yang meningkat per hasil diterima, atau ketidakmampuan meningkatkan keselamatan tanpa mengorbankan sebagian besar otonomi yang berguna. Ini adalah sinyal tandingan yang lebih kuat daripada jeda sementara pada satu tolok ukur.

Pelajaran praktis untuk perencanaan

Respons praktis terhadap ramalan Kurzweil adalah bersiap menghadapi kemajuan AI yang lebih cepat tanpa membuat bisnis, karier, atau kebijakan bergantung pada satu tanggal.

Pisahkan kemampuan saat ini dari AGI

Organisasi tidak perlu AGI untuk mendapat manfaat dari model bahasa, agen perangkat lunak, analisis dokumen, atau alur kerja otomatis. Mereka perlu mencocokkan setiap alat dengan tugas terbatas dan memeriksa apakah alat itu menjalankan tugas tersebut secara ekonomis.

Menyebut setiap sistem berguna sebagai AGI menghasilkan keputusan buruk ke dua arah. Ini mendorong otonomi gegabah ketika model tidak andal dan penundaan yang tidak perlu ketika aplikasi terbatas dengan pengawasan sudah berfungsi.

Gunakan eksperimen yang dapat dibatalkan

Proses penerapan yang masuk akal membatasi biaya jika keputusan ternyata salah:

• Tentukan tugas, kendala, dan uji penerimaan sebelum memilih model
• Letakkan tindakan berdampak besar di balik persetujuan eksplisit sampai kinerjanya terukur
• Catat kesalahan berdasarkan tingkat keparahan dan penyebab, bukan meratakannya menjadi satu skor
• Simpan snapshot, log, dan prosedur rollback untuk pemulihan
• Bandingkan total biaya terverifikasi dengan proses yang ada

Pendekatan ini tetap berguna dalam kemajuan AI yang cepat, tidak merata, maupun lambat. Pendekatan ini menghasilkan bukti yang dapat memperbarui strategi tanpa memerlukan keyakinan tentang tanggal pasti kedatangan AGI.

Koder.ai menawarkan salah satu cara untuk menjalankan eksperimen semacam ini bagi pengembangan perangkat lunak. Antarmuka chat-nya dapat membuat aplikasi web React, layanan Go dengan database PostgreSQL, dan aplikasi mobile Flutter. Mode perencanaan membantu menentukan pekerjaan sebelum penerapan, sementara snapshot dan rollback membuat uji coba lebih mudah dibatalkan. Ekspor kode sumber, deployment, hosting, dan dukungan domain kustom memungkinkan tim menguji aplikasi serta tetap memegang kendali praktis atas hasilnya.

Kemampuan tersebut tidak bergantung pada pernyataan bahwa AGI sudah tiba. Kemampuan itu menerapkan AI saat ini pada alur kerja tertentu dengan keluaran yang dapat diperiksa. Seorang pendiri dapat membuat prototipe situs web, CRM, ERP, atau produk mobile, mengujinya dengan pengguna, lalu memutuskan apakah investasi lanjutan layak dilakukan.

Rencanakan dalam tiga skenario

Skenario kemajuan cepat mengasumsikan agen segera menjadi andal dalam tugas panjang. Persiapan perlu berfokus pada desain izin, kapasitas evaluasi, integrasi organisasi, dan eksperimen cepat.

Skenario kemajuan tidak merata mengasumsikan kinerja kuat di beberapa bidang disertai kelemahan yang menetap di bidang lain. Persiapan perlu berfokus pada penguraian tugas, mengarahkan pekerjaan ke sistem yang sesuai, dan mempertahankan tinjauan manusia ketika biaya kesalahan tinggi.

Skenario kemajuan lambat mengasumsikan metode saat ini menemui batas keras. Persiapan perlu mengutamakan investasi yang juga memperbaiki operasi konvensional, seperti data yang lebih baik, proses yang lebih jelas, perangkat lunak modular, dan pengendalian kualitas yang dapat diukur.

Keputusan yang berhasil dalam ketiga skenario lebih bernilai daripada taruhan besar yang sulit dibatalkan dan hanya berhasil jika satu ramalan tepat sepenuhnya.

Ajukan pertanyaan yang tepat tentang setiap prediksi

Sebelum bertindak berdasarkan ramalan AGI, tentukan:

• Perilaku teramati apa yang memenuhi syarat sebagai AGI?
• Probabilitas apa yang melekat pada tahun yang disebutkan?
• Bukti apa yang akan membuat peramal menggeser tanggal?
• Kendala teknis atau sosial apa yang tidak dimasukkan dalam model?
• Bagaimana prediksi akan dinilai jika hasilnya datang dalam bentuk berbeda?

Linimasa Kurzweil paling berguna sebagai hipotesis tentang kemajuan teknologi yang tumbuh secara majemuk. Nilainya terletak pada ukuran dan asumsi yang mengajak pembaca untuk memeriksanya, bukan pada memperlakukan satu tahun kalender sebagai janji. Bersiaplah melalui eksperimen terbatas, evaluasi independen, dan keputusan yang dapat dibatalkan, lalu ubah arah ketika bukti berubah.