เส้นเวลา AGI ของ Ray Kurzweil: เขาคาดการณ์ล่วงหน้าหลายทศวรรษได้อย่างไร

เหตุใดคำทำนาย AGI ของ Kurzweil จึงสำคัญ

คำทำนาย AGI ของ Kurzweil สำคัญเพราะเปลี่ยนความเชื่อกว้าง ๆ ว่า AI จะก้าวหน้า ให้กลายเป็นชุดคำกล่าวอ้างที่มีวันที่กำกับและตรวจสอบได้ นักลงทุน นักวิจัย นักข่าว และผู้นำธุรกิจจึงถกเถียงเรื่องคำทำนายที่เฉพาะเจาะจงได้อย่างมีประโยชน์กว่าการถกกันว่าสักวันหนึ่งเครื่องจักรที่ฉลาดจะมาถึงหรือไม่

แนวทางของเขายังอธิบายอย่างเป็นระบบว่าเหตุใดความก้าวหน้าอาจเร่งตัวขึ้น คอมพิวเตอร์ที่ดีขึ้นช่วยให้นักวิจัยออกแบบคอมพิวเตอร์ที่ดีขึ้น ซอฟต์แวร์ที่มีความสามารถมากขึ้นช่วยสร้าง ทดสอบ และดูแลซอฟต์แวร์รุ่นถัดไป ต้นทุนที่ลดลงทำให้องค์กรมากขึ้นทดลองได้ ซึ่งสร้างทั้งความรู้และความต้องการลงทุนต่อไป

โครงสร้างเช่นนี้ไม่ได้ทำให้วันที่ทำนายถูกต้อง แต่มันทำให้เหตุผลมองเห็นได้ ผู้อ่านจึงตรวจสอบตัวชี้วัด ตั้งคำถามกับสมมติฐาน และระบุหลักฐานที่จะเสริมหรือบั่นทอนคำทำนายได้

ความแตกต่างนี้สำคัญ เพราะการพยากรณ์เทคโนโลยีระยะไกลรวมคำทำนายหลายอย่างไว้ด้วยกัน ฮาร์ดแวร์ต้องดีขึ้น อัลกอริทึมต้องเปลี่ยนทรัพยากรให้เป็นความสามารถที่มีประโยชน์ ข้อมูลฝึกหรือวิธีเรียนรู้ทางเลือกต้องยังหาได้ ระบบต้องทำงานน่าเชื่อถือนอกการสาธิต และองค์กรกับรัฐบาลต้องอนุญาตให้นำไปใช้ ความล้มเหลวในชั้นใดชั้นหนึ่งอาจทำให้เส้นเวลา AGI เลื่อนออกไป โดยที่ความก้าวหน้าของ AI โดยรวมไม่ได้หยุดลง

คำทำนายของ Kurzweil มีความเกี่ยวข้องมากขึ้น เมื่อระบบ AI แบบใช้งานได้หลากหลายเรียนรู้ที่จะสร้างข้อความ เขียนซอฟต์แวร์ ตีความภาพ เรียกใช้เครื่องมือ และทำงานข้ามหลายสาขา ความสามารถเหล่านี้ทำให้การถกเถียงเป็นเรื่องสมมติน้อยลง แต่ยังไม่ได้ตัดสินข้อสรุป ความสามารถกว้างขวางในอินเทอร์เฟซที่ควบคุมไว้ไม่เหมือนกับปัญญาทั่วไปที่พึ่งพาได้ในสภาพแวดล้อมเปิด

คำถามที่มีประโยชน์จึงไม่ใช่ว่า Kurzweil มองโลกในแง่ดีหรือแง่ร้าย แต่คือแบบจำลองของเขาเชื่อมปัจจัยนำเข้าที่วัดได้เข้ากับความสามารถที่ AGI ควรมีหรือไม่ และความเชื่อมโยงนั้นยังคงอยู่เมื่อเจอกับข้อเท็จจริงด้านวิศวกรรม เศรษฐศาสตร์ และพฤติกรรมมนุษย์หรือไม่

Ray Kurzweil คือใคร

Ray Kurzweil เป็นนักประดิษฐ์ นักเขียน ผู้ประกอบการ และนักอนาคตวิทยาชาวอเมริกัน ผู้พัฒนาคำทำนายจากประสบการณ์หลายทศวรรษในการสร้างเทคโนโลยีด้านเสียง การอ่าน และดนตรี

งานของเขาก่อนการถกเถียงเรื่อง AGI

Kurzweil สร้างชื่อจากระบบที่ใช้งานได้จริง ไม่ได้อาศัยการทำนายเพียงอย่างเดียว บริษัทของเขาทำงานกับการรู้จำอักขระด้วยแสง การแปลงข้อความเป็นเสียง การรู้จำเสียง เครื่องดนตรีอิเล็กทรอนิกส์ และเทคโนโลยีการอ่านสำหรับผู้มีความบกพร่องทางการมองเห็น สาขาเหล่านี้ต้องอาศัยความก้าวหน้าทั้งด้านฮาร์ดแวร์คอมพิวเตอร์และการรู้จำรูปแบบ ซึ่งต่อมากลายเป็นหัวใจของวิธีพยากรณ์ของเขา

อาชีพของเขายังทำให้เห็นความต่างระหว่างผลลัพธ์ในห้องทดลองกับผลิตภัณฑ์ ความแม่นยำในการรู้จำ ราคาชิ้นส่วน ความเร็วในการประมวลผล การจัดจำหน่าย และความต้องการของผู้ใช้ ล้วนกำหนดว่าเมื่อใดสิ่งประดิษฐ์จะมีประโยชน์ในวงกว้าง ประสบการณ์นี้ช่วยอธิบายว่าทำไมเขาจึงเน้นเส้นโค้งประสิทธิภาพต่อราคา แทนที่จะดูการสาธิตทางเทคนิคเพียงครั้งเดียว

Kurzweil เข้าร่วม Google ในปี 2012 เพื่อทำงานด้านปัญญาของเครื่องจักรและความเข้าใจภาษาธรรมชาติ การย้ายครั้งนั้นทำให้เขาอยู่ในองค์กรที่ลงทุนอย่างมากกับการประมวลผลขนาดใหญ่และงานวิจัย AI แม้ว่าคำทำนายหลักของเขาจะมีมาก่อนบทบาทนี้

หนังสือเบื้องหลังเส้นเวลา

Kurzweil พัฒนาแนวคิดนี้ผ่านหนังสือหลายเล่ม The Age of Intelligent Machines สำรวจทิศทางของปัญญาคอมพิวเตอร์ The Age of Spiritual Machines ที่ตีพิมพ์ในปี 1999 จัดคำทำนายตามวันที่ในอนาคตและบรรยายถึงปฏิสัมพันธ์ที่ใกล้ชิดขึ้นระหว่างมนุษย์กับคอมพิวเตอร์ ส่วน The Singularity Is Near ที่ตีพิมพ์ในปี 2005 นำเสนอข้อเสนอเรื่องผลตอบแทนที่เร่งตัวในรูปแบบที่เป็นที่รู้จักที่สุด

How to Create a Mind ที่ตีพิมพ์ในปี 2012 มุ่งไปที่การรับรู้มากขึ้น และเสนอว่ากลไกการรู้จำรูปแบบอาจช่วยอธิบายการทำงานของนีโอคอร์เทกซ์ The Singularity Is Nearer ที่ตีพิมพ์ในปี 2024 กลับมาทบทวนคำทำนายเดิมหลังการเติบโตของ generative AI สมัยใหม่ และยังคงวันที่สำคัญของเขาไว้แทนที่จะเปลี่ยนเป็นตารางใหม่

หนังสือเหล่านี้ไม่ได้ให้นิยามคำว่าปัญญาเหมือนกันทุกประการ แต่มีข้อโต้แย้งร่วมกันว่าเทคโนโลยีสารสนเทศพัฒนาผ่านกระบวนการที่ทบต้น และท้ายที่สุดกระบวนการนั้นจะทำให้ปัญญาของเครื่องจักรเทียบเคียงกับมนุษย์ได้

คำศัพท์ต้องแยกนิยาม

มักมีการนำคำสามคำมาปะปนกัน ทั้งที่แต่ละคำกล่าวถึงเรื่องต่างกัน:

• ปัญญาประดิษฐ์ทั่วไป คือระบบที่เรียนรู้ ให้เหตุผล และประยุกต์ความรู้กับงานใหม่ ๆ ได้หลากหลาย แทนที่จะทำงานอยู่ในความเชี่ยวชาญแคบด้านเดียว
• AI ระดับมนุษย์ หมายถึงประสิทธิภาพเทียบได้กับมนุษย์ แต่คำกล่าวอ้างเช่นนี้ต้องระบุว่ากับมนุษย์กลุ่มใด งานใด อนุญาตให้ช่วยมากน้อยแค่ไหน และอัตราความผิดพลาดเท่าใดจึงถือว่าเทียบเท่า
• ภาวะเอกฐานทางเทคโนโลยี คือช่วงเวลาของการเปลี่ยนแปลงที่รวดเร็วมากตามข้อเสนอของ Kurzweil หลังจากปัญญาของเครื่องจักรและเทคโนโลยีมนุษย์มีพลังพอจะเปลี่ยนสังคมเร็วกว่าที่การพยากรณ์แบบเดิมจะตามทัน

เครื่องจักรอาจผ่านนิยามเชิงปฏิบัติข้อหนึ่งของ AI ระดับมนุษย์ โดยยังไม่ผ่านนิยาม AGI ที่เข้มงวด AGI ก็อาจเกิดขึ้นก่อนที่สังคมจะพบสิ่งใดคล้ายภาวะเอกฐาน การใช้คำเหล่านี้เป็นคำพ้องกันทำให้เส้นเวลาดูแม่นยำกว่าความเป็นจริง

เส้นเวลา AGI ที่ Kurzweil คาดการณ์ไว้จริง

คำทำนายสำคัญของ Kurzweil วางปัญญาเครื่องจักรระดับมนุษย์ไว้ราวปี 2029 และภาวะเอกฐานทางเทคโนโลยีไว้ราวปี 2045

คำทำนายปี 2029 กล่าวว่าอะไร

Kurzweil เชื่อมปี 2029 เข้ากับการที่เครื่องจักรผ่านการทดสอบทัวริงที่ใช้ได้จริง และมีปัญญาระดับมนุษย์ ในการประเมินแบบทัวริง ผู้ตัดสินที่เป็นมนุษย์สื่อสารกับผู้เข้าร่วมที่มองไม่เห็น และพยายามตัดสินว่าผู้นั้นเป็นมนุษย์หรือปัญญาประดิษฐ์

คำว่า ใช้ได้จริง แบกรับความหมายสำคัญ การสนทนาสั้น ๆ กับผู้ตัดสินที่ไม่พร้อมไม่ใช่หลักฐานที่เข้มแข็ง เพราะระบบอาจเลียนแบบภาษามนุษย์ได้โดยล้มเหลวในด้านการวางแผน ความสอดคล้องกับข้อเท็จจริง หรืองานที่ไม่คุ้นเคย การทดสอบที่แข็งแรงกว่าควรมีผู้ประเมินที่เชี่ยวชาญ ปฏิสัมพันธ์ต่อเนื่อง คำถามเชิงท้าทาย และมาตรการป้องกันคำตอบที่จำมาแล้วหรือการช่วยเหลือจากมนุษย์แบบซ่อนเร้น

แม้การทดสอบทัวริงที่เข้มงวดจะวัดเพียงการเลียนแบบพฤติกรรมผ่านการสนทนา มันไม่ได้พิสูจน์ด้วยตัวเองถึงความเป็นอิสระที่พึ่งพาได้ ความสามารถทางกายภาพ จิตสำนึก หรือความสามารถในการเชี่ยวชาญงานทางปัญญาทุกชนิด งานเขียนในภาพรวมของ Kurzweil สื่อถึงสิ่งที่มากกว่าแชตบอตที่น่าเชื่อถือ ดังนั้นการประเมินคำทำนายจึงต้องใช้หมุดหมายที่กว้างกว่า

คำทำนายปี 2045 กล่าวว่าอะไร

Kurzweil เชื่อมปี 2045 กับการเปลี่ยนผ่านครั้งใหญ่กว่ามาก ซึ่งปัญญาของเครื่องจักรเพิ่มขึ้นอย่างมากและเทคโนโลยีผสานเข้ากับชีวิตมนุษย์อย่างลึกซึ้ง เหตุผลของเขารวมถึงงานวิจัยที่มี AI ช่วย ความก้าวหน้าต่อเนื่องของการประมวลผล และความเชื่อมโยงที่ใกล้ชิดขึ้นระหว่างการรับรู้ทางชีวภาพกับนอกชีวภาพ

ดังนั้นวันที่นี้จึงไม่ใช่แค่คำทำนายว่าคอมพิวเตอร์จะเร็วขึ้น มันขึ้นอยู่กับการที่ปัญญาสร้างความก้าวหน้าทางเทคโนโลยีต่อไปในอัตราที่โดดเด่น AI ที่ดีขึ้นต้องช่วยพัฒนาอัลกอริทึม ฮาร์ดแวร์ การแพทย์ การผลิต และการค้นพบทางวิทยาศาสตร์ได้ การพัฒนาเหล่านี้ต้องส่งกลับไปเสริมระบบที่สร้างมันขึ้นมา

วงจรป้อนกลับอาจเร่งความก้าวหน้าได้โดยไม่ไร้ขีดจำกัด การทดลองยังต้องใช้เวลา โรงงานมีตารางการก่อสร้าง กระบวนการทางกายภาพมีขีดจำกัด และสถาบันต่าง ๆ ต้องทบทวนการเปลี่ยนแปลงที่มีผลกระทบ ความเข้มของข้อจำกัดแต่ละอย่างเป็นตัวกำหนดว่าการพัฒนาจะดูระเบิดขึ้น เร็วเพียงอย่างเดียว หรือไม่สม่ำเสมอในแต่ละสาขา

หมุดหมายทำให้คำทำนายตรวจสอบได้

ความสามารถที่สังเกตได้หลายอย่างจะเป็นหลักฐานที่หนักแน่นกว่าการทดสอบการสนทนาเพียงครั้งเดียว:

• ถ่ายโอนไปสู่งานที่ไม่คุ้นเคยได้รวดเร็ว โดยต้องฝึกเฉพาะงานเพียงเล็กน้อย
• วางแผนและฟื้นตัวได้อย่างน่าเชื่อถือตลอดลำดับการกระทำที่ยาวนาน
• เรียนรู้อย่างต่อเนื่องโดยไม่ลบทักษะที่เคยมี
• ใช้เครื่องมือได้แม่นยำภายใต้ข้อจำกัดของโลกจริงที่เปลี่ยนไป
• สร้างประโยชน์ทางเศรษฐกิจได้กว้างขวางโดยไม่ต้องมีผู้เชี่ยวชาญกำกับตลอดเวลา

หมุดหมายเหล่านี้คงคำมั่นสัญญาหลักของคำทำนายไว้ โดยไม่ต้องถกเถียงแบบมีหรือไม่มีในวันเดียว อีกทั้งยังทำให้เห็นความก้าวหน้าบางส่วน ระบบหนึ่งอาจเชี่ยวชาญการใช้เครื่องมือ แต่ยังอ่อนด้านการเรียนรู้อย่างต่อเนื่อง หรือทำงานในซอฟต์แวร์ได้ดีแต่รับมือกับสภาพแวดล้อมทางกายภาพได้ยาก

ผลงานการพยากรณ์ของ Kurzweil

ผลงานของ Kurzweil มีทั้งความสำเร็จที่น่าสังเกต คำทำนายที่ถูกต้องในทิศทางกว้าง ๆ และข้อพลาดที่เห็นได้ชัดเมื่อตัดสินจากถ้อยคำและกำหนดเวลาเดิม

ความสำเร็จชัดเจนเรื่องหมากรุกคอมพิวเตอร์

หนึ่งในความสำเร็จที่มักถูกอ้างถึงคือเรื่องหมากรุก ในปี 1990 Kurzweil ทำนายว่าคอมพิวเตอร์จะชนะผู้ครองแชมป์หมากรุกโลกภายในปี 1998 และ IBM's Deep Blue ก็เอาชนะ Garry Kasparov ในการแข่งขันเมื่อปี 1997

ตัวอย่างนี้แข็งแรงเป็นพิเศษ เพราะระบุเหตุการณ์ คู่แข่ง และเส้นตายได้ชัดเจน อีกทั้งเป็นสาขาที่มีกติกาตายตัว ประสิทธิภาพวัดได้ และมีแรงจูงใจสูงในการพัฒนาฮาร์ดแวร์เฉพาะทางกับอัลกอริทึมการค้นหา เงื่อนไขเหล่านี้ทำให้หมากรุกพยากรณ์ง่ายกว่าปัญญาแบบเปิดกว้าง

ผลลัพธ์แสดงให้เห็นว่าเครื่องจักรทำผลงานเหนือมนุษย์ระดับแนวหน้าในงานทางปัญญาที่ยากได้ แต่มันไม่ได้แสดงว่าระบบเดียวกันถ่ายโอนความสามารถไปแก้ปัญหาอื่นได้ ความต่างระหว่างประสิทธิภาพเฉพาะทางที่โดดเด่นกับความสามารถทั่วไปยังเป็นแกนกลางของการถกเถียงเรื่อง AGI

คำทำนายที่ถูกต้องในทิศทาง

Kurzweil คาดการณ์ถึงการแพร่หลายของคอมพิวเตอร์พกพา การเข้าถึงแบบไร้สาย เอกสารดิจิทัล เทคโนโลยีเสียงสำหรับผู้บริโภค และระบบ AI ที่ทำงานเหนือมนุษย์ในงานรู้จำรูปแบบบางประเภท ทิศทางกว้าง ๆ ของคำทำนายเหล่านี้สอดคล้องกับพัฒนาการที่เกิดขึ้นภายหลัง

รายละเอียดกลับไม่สม่ำเสมอ คอมพิวเตอร์พกพากลายเป็นกระแสหลักผ่านสมาร์ตโฟนและแล็ปท็อป มากกว่าชุดอุปกรณ์สวมใส่ตามฉากทัศน์บางส่วน การรู้จำเสียงมีให้ใช้แพร่หลาย แต่การพูดต่อเนื่องเพื่อป้อนข้อความไม่ได้แทนที่แป้นพิมพ์ในฐานะวิธีมาตรฐานที่คนส่วนใหญ่ใช้สร้างข้อความภายในปี 2009 สื่อดิจิทัลขยายตัวอย่างรวดเร็ว ขณะที่กระดาษยังคงอยู่ในสำนักงาน การศึกษา รัฐบาล และการใช้งานส่วนบุคคล

คำทำนายสมควรได้รับเครดิตบางส่วน เมื่อการเปลี่ยนผ่านพื้นฐานเกิดขึ้นผ่านผลิตภัณฑ์หรือรูปแบบการยอมรับที่ต่างออกไป แต่ไม่ควรได้รับเครดิตเต็ม หากข้ออ้างเดิมระบุวันที่ ระดับความแพร่หลาย หรือรูปแบบอุปกรณ์ที่พลาด ทิศทางและเวลาเป็นคนละคำถามกัน

คำทำนายที่มาช้าหรือยังไม่ชัดเจน

บางฉากทัศน์คาดว่าจะมีสภาพแวดล้อมเสมือนจริงที่ดื่มด่ำเป็นเรื่องปกติ การสนทนากับเครื่องจักรที่น่าเชื่อมาก และการผสานร่างกายกับคอมพิวเตอร์ที่ใกล้ชิดกว่านี้ ก่อนที่การใช้งานทั่วไปจะเกิดขึ้นจริง องค์ประกอบของแนวคิดเหล่านั้นปรากฏผ่าน virtual reality อุปกรณ์ช่วยเหลือ อุปกรณ์ฝังในทางการแพทย์ และโมเดลกำเนิดเนื้อหา แต่การมีอยู่ไม่ได้เท่ากับการยอมรับอย่างแพร่หลาย

ความชอบของสังคมยังอาจทำให้คำทำนายที่ทำได้ในทางเทคนิคล้มเหลว ผู้คนอาจปฏิเสธอุปกรณ์เพราะใส่ไม่สบาย ราคาแพง รบกวนสมาธิ ดูแปลกในสังคม ซ่อมยาก หรือล่วงล้ำความเป็นส่วนตัว เส้นโค้งที่วัดประสิทธิภาพของชิ้นส่วนไม่อาจสะท้อนข้อคัดค้านเหล่านี้ได้

เหตุใดเปอร์เซ็นต์ความแม่นยำจึงทำให้เข้าใจผิดได้

Kurzweil เคยประเมินย้อนหลังคำทำนายจากงานก่อนหน้าของตน และรายงานอัตราความสำเร็จสูงตามวิธีให้คะแนนของเขา การทบทวนนั้นไม่ได้เป็นการตรวจสอบแบบไม่รู้ผลล่วงหน้าและเป็นอิสระ หลายข้ออ้างยังเปิดให้จัดประเภทว่าเกือบถูกต้องหรือถูกต้องในทิศทาง

การทบทวนที่เป็นธรรมควรบันทึกคุณสมบัติสี่ประการแยกกัน:

• ผลลัพธ์ที่ทำนายไว้อย่างแน่นอน
• เส้นตายและช่วงคลาดเคลื่อนที่ยอมรับได้
• เกณฑ์วัดความสำเร็จที่ตรวจสอบได้
• ผู้ประเมินเลือกเกณฑ์ก่อนเห็นผลลัพธ์หรือไม่

คำทำนายเรื่องราคาทรานซิสเตอร์ให้คะแนนง่ายกว่าคำทำนายว่าคอมพิวเตอร์จะมองไม่เห็น หรือการสนทนากับเครื่องจักรจะรู้สึกเป็นเรื่องปกติ การรวมเรื่องทั้งสองประเภทเป็นเปอร์เซ็นต์เดียวปกปิดความต่างอย่างมากด้านความเฉพาะเจาะจงและความยาก

กฎผลตอบแทนที่เร่งตัวสร้างคำทำนายนี้อย่างไร

กฎผลตอบแทนที่เร่งตัวสร้างเส้นเวลาของ Kurzweil โดยมองการพัฒนาเทคโนโลยีเป็นกระบวนการทบต้น ซึ่งเครื่องมือแต่ละรุ่นมีส่วนช่วยสร้างรุ่นต่อไป

การเปลี่ยนแปลงแบบเส้นตรงและแบบเอ็กซ์โปเนนเชียล

กระบวนการแบบเส้นตรงเพิ่มปริมาณเท่าเดิมในแต่ละช่วงเวลา หากระบบเพิ่มความจุ 10 หน่วยทุกปี ก็จะเพิ่มจาก 10 เป็น 20 จากนั้น 30 แล้ว 40 กระบวนการแบบเอ็กซ์โปเนนเชียลคูณด้วยตัวคูณคงที่ การเพิ่มเป็นสองเท่าห้าครั้งเปลี่ยน 10 หน่วยเป็น 320 หน่วย

ระยะแรกของการเติบโตแบบเอ็กซ์โปเนนเชียลอาจดูไม่มาก เพราะการเปลี่ยนแปลงสัมบูรณ์ยังเล็ก ระยะหลังกลับรู้สึกฉับพลัน แม้อัตราการคูณไม่ได้เปลี่ยน Kurzweil เห็นว่าสัญชาตญาณมนุษย์มักคาดการเปลี่ยนแปลงแบบเส้นตรง จึงประเมินเทคโนโลยีสารสนเทศที่ทบต้นต่ำเกินไป

เส้นโค้งทางเทคนิคจริงแทบไม่เป็นเอ็กซ์โปเนนเชียลสมบูรณ์ อัตราการเติบโตแปรผัน การวัดมีสัญญาณรบกวน และวิธีการแต่ละอย่างถึงขีดจำกัด ข้ออ้างคือแนวโน้มประสิทธิภาพต่อราคาในภาพใหญ่ยังไปต่อผ่านวิธีการที่ต่อเนื่องกันได้ แม้ว่าวิธีหนึ่งจะชะลอลง

ประสิทธิภาพต่อราคาสำคัญกว่าความจุดิบ

ความสามารถที่อยู่ได้เฉพาะในระบบวิจัยราคาแพงย่อมเข้าถึงได้จำกัด เมื่อต้นทุนลดลง มหาวิทยาลัย สตาร์ตอัป บริษัทขนาดใหญ่ และบุคคลทั่วไปก็ทำการทดลองได้มากขึ้น การใช้งานที่กว้างขึ้นสร้างความต้องการโครงสร้างพื้นฐาน เผยจุดล้มเหลว และสนับสนุนธุรกิจที่หาเงินทุนเพื่อพัฒนาต่อ

นี่คือเหตุผลที่ Kurzweil มักดูจำนวนการคำนวณต่อหน่วยต้นทุน ตัวประมวลผลรุ่นใหม่ที่เร็วขึ้นแต่แพงขึ้นตามสัดส่วนอาจไม่ได้ขยายการเข้าถึง ระบบที่ทำงานเท่าเดิมได้ด้วยชิปน้อยลง พลังงานน้อยลง หรือโมเดลเล็กลง อาจเปลี่ยนการยอมรับได้โดยไม่ต้องทำสถิติประสิทธิภาพดิบ

สำหรับ AI ตัวหารที่เกี่ยวข้องมากขึ้นคือค่าใช้จ่ายของผลลัพธ์ที่ตรวจสอบแล้ว ไม่ใช่ต้นทุนต่อการดำเนินการหนึ่งครั้งหรือต่อโทเค็น โมเดลราคาถูกที่ต้องแก้ไขมากอาจมีต้นทุนต่องานที่เสร็จสมบูรณ์สูงกว่าโมเดลแพงที่มีอัตราความผิดพลาดต่ำกว่า

การเปลี่ยนกระบวนทัศน์ทำให้เส้นโค้งยืดออก

ข้อโต้แย้งของ Kurzweil กว้างกว่าการที่ทรานซิสเตอร์จะย่อส่วนได้ตลอดไป เครื่องคำนวณเชิงกล รีเลย์ หลอดสุญญากาศ ทรานซิสเตอร์ วงจรรวม ตัวเร่งเฉพาะทาง และระบบกระจายศูนย์ อาจมองได้ว่าเป็นวิธีต่อเนื่องกันในการมอบความสามารถด้านการคำนวณ

เมื่อแนวทางหนึ่งพบข้อจำกัดทางกายภาพหรือเศรษฐกิจ การลงทุนอาจย้ายไปยังอีกแนวทางหนึ่ง เส้นโค้งในประวัติศาสตร์จึงอาจต่อเนื่องแม้กลไกเปลี่ยนไป ข้ออ้างนี้แข็งแรงกว่ากฎของมัวร์ แต่ก็ทดสอบยากกว่า เพราะหมวดหมู่อาจขยายได้ทุกครั้งที่เทคโนโลยีหนึ่งหยุดชะงัก

หลายเส้นโค้งต้องทบต้นร่วมกัน

การประมวลผลเพียงอย่างเดียวไม่พอ หน่วยความจำ การสื่อสาร ประสิทธิภาพซอฟต์แวร์ สถาปัตยกรรมโมเดล คุณภาพข้อมูล และผลิตภาพการวิจัย ล้วนมีผลต่อความสามารถสุดท้าย ความก้าวหน้าอาจเร่งขึ้นเมื่อการปรับปรุงส่งเสริมกัน เช่น อัลกอริทึมที่ดีขึ้นลดฮาร์ดแวร์ที่ต้องใช้กับงานหนึ่ง

ทิศทางตรงข้ามก็เป็นไปได้ การขาดข้อมูลคุณภาพสูง กำลังไฟฟ้าที่ส่งได้ แบนด์วิดท์หน่วยความจำ หรือการประเมินที่ไม่ดี อาจทำให้ตัวประมวลผลราคาแพงถูกใช้ได้ไม่เต็มที่ คำทำนายที่อิงตัวแปรนำเข้าเพียงตัวเดียวมักพลาดปฏิสัมพันธ์เหล่านี้

หลักฐานสนับสนุนอะไร และยังไม่สนับสนุนอะไร

หลักฐานสนับสนุนอย่างมากว่าปัจจัยนำเข้าหลายอย่างของ AI จะพัฒนาต่อเนื่อง แต่ยังไม่ได้ยืนยันอัตราแปลงตายตัวระหว่างปัจจัยเหล่านั้นกับปัญญาทั่วไป

หลักฐานจากการประมวลผลและอัลกอริทึม

บันทึกระยะยาวแสดงให้เห็นความก้าวหน้ามหาศาลของประสิทธิภาพต่อราคาด้านการประมวลผล พื้นที่เก็บข้อมูล ความจุเครือข่าย และความสามารถของซอฟต์แวร์ AI ยังได้ประโยชน์จากตัวประมวลผลเฉพาะทาง การฝึกแบบกระจาย รูปแบบตัวเลขที่ดีขึ้น การหาค่าที่เหมาะสมขึ้น และอัลกอริทึมที่ให้ผลตามเป้าหมายด้วยทรัพยากรน้อยลง

กฎการปรับขนาดเป็นหลักฐานอีกชิ้นหนึ่ง ภายในช่วงที่ทดสอบและการตั้งค่าการฝึกหนึ่ง ๆ การเปลี่ยนขนาดโมเดล ข้อมูล และการประมวลผล อาจทำให้ค่า training loss เปลี่ยนแปลงอย่างคาดการณ์ได้พอสมควร ความสามารถในการคาดการณ์นี้ช่วยให้ห้องปฏิบัติการวางแผนการฝึกขนาดใหญ่และประเมินการแลกเปลี่ยนระหว่างทรัพยากร

กฎการปรับขนาดไม่ใช่กฎของปัญญา training loss ที่ต่ำลงไม่ได้รับประกันคำตอบที่จริง เป้าหมายที่สอดคล้องกัน ความเข้าใจเชิงสาเหตุ หรือความสำเร็จในโครงการยาว ๆ การคาดการณ์เกินช่วงทดสอบยังสมมติว่าการกระจายข้อมูล สถาปัตยกรรม และการประเมินยังมีความหมาย

หลักฐานจากความสามารถ AI ที่หลากหลาย

โมเดลแบบใช้งานทั่วไปทำงานที่ครั้งหนึ่งต้องใช้ระบบแยกกันได้ เช่น การเขียน การแปล การตีความภาพ การสร้างซอฟต์แวร์ การวิเคราะห์เอกสาร และการเรียกใช้เครื่องมือ โมเดลเดียวมักสลับระหว่างกิจกรรมเหล่านี้ตามคำสั่งได้ โดยไม่ต้องฝึกใหม่

ความกว้างนี้เกี่ยวข้องกับ AGI เพราะลดน้ำหนักของแนวคิดที่ว่ากิจกรรมทางปัญญาทุกอย่างต้องใช้โปรแกรมที่สร้างเฉพาะกิจต่างหาก มันยังแสดงว่าความสามารถอาจปรากฏพร้อมกันเมื่อโมเดลเรียนรู้จากข้อมูลที่หลากหลาย

ช่องว่างที่เหลือคือประสิทธิภาพที่พึ่งพาได้ ระบบอาจแก้ปัญหายากได้ แล้วล้มเหลวกับรูปแบบที่ง่ายกว่า ยอมรับข้อสมมติผิด สร้างแหล่งอ้างอิงที่ไม่มีอยู่ หรือหลุดจากข้อจำกัดระหว่างทำงานยาว ๆ ความสำเร็จเป็นครั้งคราวพิสูจน์ว่าทำได้ ปัญญาทั่วไปต้องมีอัตราความสำเร็จสูงพอในเงื่อนไขที่ไม่คุ้นเคย

เหตุใดผลเกณฑ์วัดต้องดูบริบท

เกณฑ์วัดมีประโยชน์เมื่อประกอบด้วยงานที่ไม่เคยเห็น ใช้การให้คะแนนชัดเจน ต้านทานการปนเปื้อน และวัดพฤติกรรมที่เชื่อมโยงกับงานจริง มันให้ข้อมูลน้อยลงเมื่อข้อมูลฝึกซึมคำถามเข้าไป หรือผู้พัฒนาปรับแต่งโดยตรงเพื่อกติกาการให้คะแนน

โครงการประเมินที่น่าเชื่อถือควรแยกการทดสอบเพื่อพัฒนาออกจากการทดสอบสุดท้ายแบบส่วนตัว บันทึกการใช้ทรัพยากร ทำการทดลองซ้ำ และรายงานการกระจายตัวของความล้มเหลวแทนที่จะรายงานเพียงค่าเฉลี่ย ควรเปรียบเทียบระบบกับฐานอ้างอิงมนุษย์ที่เหมาะสมด้วย การเทียบผู้เริ่มต้นในแบบทดสอบหนึ่งไม่เหมือนกับการเทียบผู้เชี่ยวชาญที่ผ่านการฝึก ภายใต้เวลาและข้อจำกัดของเครื่องมือเดียวกัน

การทดลองในเวิร์กโฟลว์จริงเพิ่มข้อมูลที่การทดสอบแบบคงที่พลาดไป มันเผยให้เห็นว่าระบบขอรายละเอียดที่ขาด ตรวจงานของตัวเอง ฟื้นตัวหลังผิดพลาด และรู้ว่าเมื่อใดควรหยุดหรือไม่ พฤติกรรมเหล่านี้สำคัญต่อการนำไปใช้มากกว่าคะแนนที่ดีขึ้นเล็กน้อยบนชุดทดสอบที่เริ่มอิ่มตัว

ปัจจัยนำเข้าวัดง่ายกว่าผลลัพธ์

การประมวลผล พื้นที่เก็บข้อมูล และแบนด์วิดท์มีหน่วยที่คงที่ ความเป็นทั่วไป วิจารณญาณ ความสามารถในการปรับตัว และสามัญสำนึกไม่มี นักวิจัยนับจำนวนตัวประมวลผลได้แม่นยำ แต่ยังเห็นต่างกันว่างานที่เสร็จแล้วแสดงการให้เหตุผลหรือการจับรูปแบบขั้นสูง

ความไม่สอดคล้องของการวัดนี้ทำให้คำทำนายเชิงปริมาณดูแม่นยำ ทั้งที่ตัวแปรเป้าหมายอาจไม่รองรับ ข้อมูลปัจจัยนำเข้าที่ดีขึ้นลดความไม่แน่นอนได้เพียงส่วนหนึ่ง

สมมติฐานเบื้องหลังคำทำนาย AGI หลายสิบปีล่วงหน้า

เส้นเวลาของ Kurzweil ขึ้นอยู่กับชุดสมมติฐานซ้อนกัน และวันที่อาจเลื่อนมากหากเพียงข้อเดียวล้มเหลว

การประมวลผลยังเข้าถึงได้ในเชิงเศรษฐกิจ

คำทำนายสมมติว่าองค์กรยังขยายการประมวลผลที่มีประโยชน์ได้ ผ่านชิปที่ดีขึ้น ระบบใหญ่ขึ้น การใช้ทรัพยากรคุ้มขึ้น หรือการอนุมานที่ต้นทุนต่ำลง กำลังการผลิต ค่าใช้จ่ายลงทุน ไฟฟ้า การระบายความร้อน หน่วยความจำ เครือข่าย และการค้าระหว่างประเทศ ล้วนมีผลต่อการเข้าถึงนั้น

ข้อจำกัดทางกายภาพไม่จำเป็นต้องหยุดความก้าวหน้าเพื่อเปลี่ยนเส้นเวลา อัตราการพัฒนาที่ช้าลงและคงอยู่นานหลายปีจะทบต้นเป็นความแตกต่างอย่างมากจากการคาดการณ์เดิม

อัลกอริทึมยังเปลี่ยนทรัพยากรเป็นความสามารถ

การประมวลผลที่มากขึ้นต้องยังสร้างประโยชน์ที่มีความหมายได้ สิ่งนี้อาจเกิดจากการขยายวิธีเดิม ค้นพบสถาปัตยกรรมที่มีประสิทธิภาพกว่า ปรับเป้าหมายการฝึก หรือผสานโมเดลที่เรียนรู้แล้วเข้ากับการค้นหา หน่วยความจำ เครื่องมือ และการพิสูจน์เชิงรูปนัย

สมมติฐานนี้หนักกว่าการทำนายว่าฮาร์ดแวร์จะเร็วขึ้น การค้นพบด้านอัลกอริทึมไม่ได้เกิดตามตารางการผลิตที่สม่ำเสมอ และคุณค่าของมันอาจต่างกันในแต่ละสาขา

การเรียนรู้ไม่ถูกขวางด้วยข้อจำกัดด้านข้อมูล

ระบบในอนาคตต้องมีประสบการณ์ที่มีประโยชน์ อาจมาจากเนื้อหาที่มนุษย์สร้าง การสังเกตหลายรูปแบบ การจำลอง ปฏิสัมพันธ์ ตัวอย่างสังเคราะห์ ข้อเสนอแนะ หรือการทดลองที่ระบบทำเอง

ข้อมูลสังเคราะห์ไม่ใช่สิ่งทดแทนหลักฐานจากภายนอกโดยอัตโนมัติ หากโมเดลสร้างเนื้อหาจากข้อผิดพลาดของตนเองและไม่มีสัญญาณแก้ไข การฝึกอาจย้ำข้อผิดพลาดนั้น การจำลองก็ถ่ายโอนไปสู่โลกจริงได้ไม่ดี เมื่อมันละเว้นคุณสมบัติที่สำคัญ

การรับรู้ของมนุษย์สร้างซ้ำด้วยเครื่องจักรได้

Kurzweil สมมติว่าปัญญาเกิดจากกระบวนการสารสนเทศทางกายภาพที่เข้าใจและนำไปใช้ในระบบนอกชีวภาพได้ การประเมินของเขามักเปรียบเทียบการประมวลผลที่มีอยู่กับแบบจำลองสมอง และมองประสาทวิทยาเป็นแหล่งข้อมูลเชิงวิศวกรรม

จุดยืนนี้ไม่ได้บังคับว่าต้องคัดลอกเซลล์ประสาททุกเซลล์ แต่มันต้องอาศัยความเชื่อมั่นว่าไม่มีกลไกชีวภาพที่ยังไม่รู้ซึ่งเป็นอุปสรรคข้ามไม่ได้ การประเมินพลังประมวลผลของสมองต่างกันได้ เพราะนักวิจัยนับการดำเนินการ ไซแนปส์ สไปก์ กระบวนการชีวเคมี และประสิทธิภาพการเรียนรู้ต่างกัน

AI ที่ดีขึ้นเร่งงานวิจัย AI

รูปแบบคำทำนายที่เร็วที่สุดต้องให้ AI มีส่วนอย่างมีนัยสำคัญต่อการพัฒนาตนเอง การเขียนโค้ดเป็นเพียงส่วนหนึ่งของวงจรนั้น ระบบวิจัยต้องตั้งสมมติฐานที่มีประโยชน์ ออกแบบการทดลอง ตีความผลเชิงลบ และแยกความก้าวหน้าจริงออกจากการปรับให้เข้ากับเกณฑ์วัดมากเกินไป

การพัฒนาตนเองยังขึ้นอยู่กับการเข้าถึง โมเดลที่มีความสามารถไม่อาจออกแบบฮาร์ดแวร์ใหม่ ทำการทดลองขนาดใหญ่ หรือปรับใช้ผู้สืบทอด หากมนุษย์ไม่จัดสรรทรัพยากรและอนุญาต ปัญญาอาจย่นบางขั้นตอนลง ขณะที่คอขวดภายนอกยังคงอยู่

อะไรอาจทำให้ AGI ช้าลงหรือต้องนิยามใหม่

AGI อาจมาถึงช้ากว่าที่ทำนาย เพราะความน่าเชื่อถือ การเรียนรู้ ความปลอดภัย และการนำไปใช้กลายเป็นปัจจัยจำกัด แม้ความสามารถของโมเดลจะเพิ่มขึ้นต่อเนื่อง

งานยาวทำให้อัตราความผิดพลาดเล็กน้อยทวีผล

ระบบอาจดูแม่นยำในแต่ละขั้นตอน แต่ยังล้มเหลวในโครงการยาวเกือบทั้งหมด หากแต่ละขั้นสำเร็จโดยอิสระ 99 เปอร์เซ็นต์ โอกาสทำ 100 ขั้นที่จำเป็นจนจบโดยไม่ผิดพลาดจะอยู่ราว 37 เปอร์เซ็นต์

ความล้มเหลวจริงมักสัมพันธ์กัน ซึ่งอาจทำให้ผลแย่ลง ข้อสมมติที่ผิดตั้งแต่ต้นอาจปนเปื้อนทุกการกระทำต่อมา ดังนั้นความก้าวหน้าจึงขึ้นอยู่กับการตรวจจับข้อผิดพลาด แก้แผน บันทึกสถานะ ทดสอบผลระหว่างทาง และส่งต่อการตัดสินใจที่คลุมเครือ

นี่คือเหตุผลที่ระยะเวลางานอัตโนมัติเป็นตัววัดที่เปิดเผยได้มากกว่าคุณภาพของคำตอบเพียงครั้งเดียว โมเดลที่ทำงานแปดชั่วโมงซึ่งตรวจสอบผลได้สำเร็จ เปลี่ยนรูปแบบงานต่างจากโมเดลที่ต้องแก้ทุกไม่กี่นาที

การเรียนรู้อย่างต่อเนื่องยังยาก

มนุษย์รับความรู้ใหม่จากประสบการณ์ โดยยังรักษาสิ่งที่รู้อยู่มากไว้ได้ ระบบ AI ที่นำไปใช้จริงมักแยกการฝึกออกจากการใช้งาน การอัปเดตอาจต้องใช้ชุดข้อมูลใหม่ การประเมิน และรอบฝึกอีกครั้ง

ผู้สมัครเป็น AGI ควรเรียนรู้จากปฏิสัมพันธ์ได้อย่างปลอดภัย โดยไม่รับคำสั่งอันตราย ข้อมูลส่วนตัว หรือข้อมูลเท็จโดยบังเอิญ ควรรู้ด้วยว่าบทเรียนใดเป็นเรื่องเฉพาะสถานการณ์ และสิ่งใดนำไปใช้ทั่วไปได้ การแก้ปัญหานี้เกี่ยวข้องกับการออกแบบหน่วยความจำ การควบคุมการเข้าถึง แหล่งที่มาของข้อมูล และการป้องกันการลืมความรู้เดิมอย่างรุนแรง

ความเป็นเอเจนต์สร้างปัญหาความปลอดภัย

โมเดลที่เพียงเสนอข้อความมีขอบเขตการกระทำจำกัด ระบบที่ได้รับอนุญาตให้ส่งข้อความ แก้ไขซอฟต์แวร์ ใช้จ่ายเงิน ควบคุมเครื่องจักร หรือจัดการบัญชี อาจก่อความเสียหายจากความเข้าใจผิดเพียงเล็กน้อย

ความเป็นอิสระที่มากขึ้นจึงเพิ่มความจำเป็นของสิทธิ์ที่จำกัดขอบเขต ด่านอนุมัติ บันทึกตรวจสอบ การทำงานแบบแยกส่วน และขั้นตอนกู้คืน มาตรการเหล่านี้อาจทำให้การกระทำช้าลง แต่การเอาออกไม่ได้เพิ่มปัญญา มันเพียงโยนต้นทุนของความผิดพลาดให้ผู้ใช้และผู้ที่อยู่รอบข้าง

ความสามารถทางกายภาพอาจตามหลังความสามารถดิจิทัล

ปัญญาที่แสดงออกผ่านซอฟต์แวร์ได้ประโยชน์จากสภาพแวดล้อมที่รวดเร็วและทำซ้ำได้ งานทางกายภาพต้องรับมือกับแรงเสียดทาน การแตกหัก เซ็นเซอร์ที่ไม่แน่นอน วัตถุแปลก ๆ สภาพอากาศที่เปลี่ยน และความปลอดภัยรอบตัวคน

ระบบ AI อาจมีความสามารถกว้างขวางด้านวิจัย วิเคราะห์ สื่อสาร และซอฟต์แวร์ ก่อนที่หุ่นยนต์จะยืดหยุ่นได้เทียบกัน สถานการณ์เช่นนั้นนับเป็น AGI หรือไม่ ขึ้นอยู่กับนิยาม การต้องปรับตัวทางกายภาพระดับมนุษย์ตั้งเกณฑ์สูงกว่าการทำงานทางปัญญาทั่วไปผ่านคอมพิวเตอร์

สถาบันอาจต้องการหลักฐานที่เข้มกว่า

การแพทย์ การเงิน การขนส่ง การบริหารภาครัฐ และโครงสร้างพื้นฐานสำคัญ มีผลตามมาที่การทดสอบ benchmark ทั่วไปไม่ครอบคลุม ผู้ประกัน หน่วยงานกำกับดูแล ศาล ลูกค้า และองค์กรวิชาชีพ อาจต้องการหลักฐานผลงานที่บันทึกไว้ก่อนอนุญาตให้ทำงานอัตโนมัติ

ความล่าช้านี้ไม่ได้แปลว่าโมเดลพื้นฐานขาดปัญญา แต่มันแสดงว่าความสามารถกับการอนุญาตเป็นหมุดหมายคนละอย่าง คำทำนายเรื่องความเป็นไปได้ทางเทคนิคไม่ควรแอบสมมติว่าการใช้งานในสังคมเกิดขึ้นทันที

ข้อวิจารณ์หลักต่อแนวทางของ Kurzweil

ข้อวิจารณ์หลักต่อวิธีของ Kurzweil คือแนวโน้มที่น่าเชื่อถือในเทคโนโลยีสารสนเทศไม่ได้กำหนดวันที่มาถึงของความสามารถทางปัญญาที่นิยามไม่ชัดโดยอัตโนมัติ

การเลือกแนวโน้มอาจกำหนดคำตอบ

เส้นโค้งทางประวัติศาสตร์ที่ยาวขึ้นอยู่กับการตัดสินใจว่าเทคโนโลยี ราคา และตัววัดประสิทธิภาพใดควรอยู่ในชุดข้อมูล การรวมวิธีคำนวณที่ต่อเนื่องกันอาจเผยรูปแบบจริงได้ แต่ก็เปิดช่องให้ผู้วิเคราะห์รักษารูปแบบนั้นไว้ได้เมื่อข้อมูลชุดย่อยเปลี่ยนทิศ

วันเริ่มและวันสิ้นสุดก็สำคัญ ช่วงสั้นที่พัฒนาเร็วอาจดูเหมือนเอ็กซ์โปเนนเชียลถาวร ขณะที่ค่าเฉลี่ยระยะยาวอาจซ่อนการชะลอตัวล่าสุด คำทำนายควรเผยแพร่ข้อมูลสังเกตที่ใช้ และแสดงว่าผลเปลี่ยนอย่างไรเมื่อเลือกช่วงเวลาอื่น

ปัญญาอาจไม่ใช่ปริมาณเดียวที่ขยายได้

ประสิทธิภาพไม่ได้เพิ่มสม่ำเสมอในด้านการให้เหตุผล ความจำ วิจารณญาณทางสังคม การรับรู้ การควบคุมการเคลื่อนไหว และความแม่นยำของข้อเท็จจริง ระบบอาจดีขึ้นมากในด้านหนึ่ง แต่ยังไม่น่าเชื่อถือในอีกด้านหนึ่ง

ความไม่สม่ำเสมอนี้ท้าทายการเปรียบเทียบระหว่างความสามารถของเครื่องจักรกับกำลังคำนวณโดยประมาณของสมอง การถึงเกณฑ์จำนวนการดำเนินการไม่ได้บอกอัลกอริทึม การแทนความรู้ ประสบการณ์การพัฒนา หรือสถาปัตยกรรมที่จำเป็นต่อการใช้การดำเนินการนั้นอย่างมีประสิทธิภาพ

ระบบซับซ้อนเผชิญการเปลี่ยนระบอบ

ความสัมพันธ์ในอดีตอาจขาดลงเมื่อวิศวกรรม เศรษฐศาสตร์ หรือนโยบายเปลี่ยน การผลิตอาจมีต้นทุนสูงขึ้น ความต้องการพลังงานอาจชนข้อจำกัดของโครงข่ายไฟฟ้าในท้องถิ่น กฎระเบียบอาจจำกัดข้อมูลฝึกหรือการนำไปใช้ ผู้บริโภคอาจต่อต้านผลิตภัณฑ์ที่เก็บข้อมูลอ่อนไหว

การเปลี่ยนแปลงเหล่านี้ไม่ได้หักล้างความก้าวหน้าแบบทบต้นในฐานะข้อสังเกตทั่วไป แต่มันลดความมั่นใจในวันที่ปฏิทินซึ่งคำนวณจากสมมติฐานว่าอัตราเดิมจะคงอยู่

การพัฒนาซ้ำด้วยตัวเองไม่ได้รับประกันว่าจะระเบิด

นักวิจัย AI ที่มีความสามารถอาจพบการปรับปรุงง่าย ๆ ก่อน แล้วเผชิญปัญหาที่ยากขึ้น แต่ละรุ่นอาจให้ผลดีขึ้นน้อยลง ต้องตรวจสอบมากขึ้น หรือพึ่งพาการทดลองทางกายภาพที่ใช้เวลาคงที่

ซอฟต์แวร์คัดลอกและทดสอบได้รวดเร็วในบางครั้ง แต่การผลิตชิป การวิจัยทางคลินิก การก่อสร้าง และโครงสร้างพื้นฐานพลังงาน เดินตามนาฬิกาคนละเรือน ข้ออ้างเรื่องภาวะเอกฐานต้องมีแบบจำลองของกระบวนการที่เป็นข้อจำกัดเหล่านั้น ไม่ใช่แค่แบบจำลองของปัญญาซอฟต์แวร์

ถ้อยคำที่ยืดหยุ่นลดความสามารถในการพิสูจน์ผิด

คำทำนายพิสูจน์ผิดได้ยาก เมื่อคำอย่างปัญญา การผสาน อยู่ทุกหนแห่ง หรือระดับมนุษย์ ยังเปิดให้ตีความใหม่ โมเดลสนทนา อุปกรณ์ฝังทางการแพทย์ และสมาร์ตโฟน ล้วนถูกนำเสนอเป็นการยืนยันบางส่วนของการผสานมนุษย์กับเครื่องจักรในความหมายกว้างได้

การพยากรณ์ที่ดีต้องกำหนดกติกาการให้คะแนนก่อนถึงเส้นตาย หากเปลี่ยนเกณฑ์เดิมหลังเห็นผลลัพธ์ สิ่งที่วัดได้คือความสามารถในการปรับเรื่องเล่า ไม่ใช่ความแม่นยำของคำทำนาย

นักพยากรณ์คนอื่นประเมินเส้นเวลา AGI อย่างไร

นักพยากรณ์คนอื่นประเมิน AGI ผ่านแบบสำรวจผู้เชี่ยวชาญ แบบจำลองการประมวลผล แนวโน้มความสามารถ ฉากทัศน์ที่มีโครงสร้าง และตลาดทำนาย ซึ่งแต่ละวิธีเผยความไม่แน่นอนคนละด้าน

แบบสำรวจผู้เชี่ยวชาญ

แบบสำรวจถามนักวิจัยว่าพวกเขาให้ความน่าจะเป็นตามที่ระบุไว้กับการเกิดปัญญาเครื่องจักรระดับมนุษย์ หรือการทำงานบางประเภทให้เป็นอัตโนมัติเมื่อใด วิธีนี้เก็บวิจารณญาณจากผู้ที่ทำงานใกล้เทคโนโลยี และแสดงให้เห็นว่าความเชื่อเปลี่ยนหลังผลลัพธ์สำคัญอย่างไร

คำตอบขึ้นอยู่กับการคัดเลือกกลุ่มตัวอย่างและถ้อยคำอย่างมาก แบบสำรวจนักเขียนบทความในงานประชุม machine learning อาจต่างจากแบบสำรวจที่เน้นหุ่นยนต์ ประสาทวิทยา ความปลอดภัย หรือเศรษฐศาสตร์ การถามว่าเมื่อใด AI ทำงานที่มีค่าจ้างส่วนใหญ่ได้ ไม่เท่ากับถามว่าเมื่อใด AI เหนือกว่ามนุษย์ในทุกงาน

คำถามเรื่องความน่าจะเป็นให้ข้อมูลมากกว่าการบังคับให้ระบุปีเดียว นักพยากรณ์ที่ให้วันที่ระดับ 10 เปอร์เซ็นต์ 50 เปอร์เซ็นต์ และ 90 เปอร์เซ็นต์ สื่อสารการกระจายความน่าจะเป็น แทนที่จะซ่อนความไม่แน่นอนไว้หลังค่าจุดเดียว

แบบจำลองที่อิงการประมวลผล

แบบจำลองการประมวลผลประเมินทรัพยากรที่ต้องใช้เพื่อสร้างลักษณะสำคัญของการรับรู้มนุษย์ขึ้นมาใหม่ แล้วพยากรณ์ว่าเมื่อใดทรัพยากรเหล่านั้นจะมีราคาที่เข้าถึงได้ แนวทางที่ยึดสมองเป็นจุดอ้างอิงคือรูปแบบหนึ่งของวิธีนี้

การคำนวณโปร่งใสพอให้ปรับแก้ได้ แต่มีความไม่แน่นอนกว้าง นักวิจัยต้องประเมินการคำนวณของสมอง ความต้องการในการฝึก ประสิทธิภาพอัลกอริทึม ราคาฮาร์ดแวร์ และสัดส่วนของการรับรู้ที่ระบบใช้งานจริงต้องสร้างซ้ำ การคูณค่าประมาณที่ไม่แน่นอนหลายค่าอาจสร้างช่วงวันที่กว้างมาก

การพยากรณ์จากความสามารถ

การพยากรณ์ความสามารถติดตามผลงานในงานที่กำหนดไว้ และประเมินอัตราที่ระบบกำลังปิดช่องว่าง เป้าหมายที่มีประโยชน์รวมถึงโครงการซอฟต์แวร์ การแก้ปัญหาทางวิทยาศาสตร์ เกมที่ไม่คุ้นเคย การช่วยวิจัย และการทำงานในสภาพแวดล้อมที่มีปฏิสัมพันธ์

วิธีนี้อยู่ใกล้กับผลลัพธ์ที่สังเกตได้ จุดอ่อนคือความก้าวหน้าบนเกณฑ์วัดอาจไม่ดำเนินด้วยอัตราเดิม และชัยชนะในหลายงานยังอาจขาดความสามารถหนึ่งที่การปฏิบัติงานทั่วไปต้องใช้

การวางแผนฉากทัศน์และตลาดทำนาย

การวางแผนฉากทัศน์สร้างอนาคตที่สอดคล้องกันภายในหลายแบบ แทนที่จะเลือกเพียงแบบเดียว ฉากทัศน์ที่เร็วอาจรวมอัลกอริทึมมีประสิทธิภาพ โครงสร้างพื้นฐานที่อุดมสมบูรณ์ และงานวิจัยที่ AI ช่วยได้สำเร็จ ฉากทัศน์ที่ช้ากว่าอาจมีผลตอบแทนลดลง งานวิศวกรรมความปลอดภัยที่ยาก หรือการนำไปใช้ที่จำกัด

ตลาดทำนายและแพลตฟอร์มการพยากรณ์เพิ่มแรงจูงใจให้ประเมินได้เที่ยงตรง และเปิดให้ความเชื่อปรับตามหลักฐานใหม่ ประโยชน์ของมันขึ้นอยู่กับเกณฑ์ตัดสินที่ชัดเจน ตลาดไม่อาจตัดสินอย่างเป็นธรรม หากผู้เข้าร่วมยังไม่เห็นพ้องว่าเหตุการณ์ใดนับเป็น AGI

ไม่มีวิธีใดลบความไม่แน่นอนเรื่องนิยามได้ การเปรียบเทียบคำทำนายต้องเริ่มจากแปลงมันให้มีเป้าหมาย มาตรฐานหลักฐาน และระดับความน่าจะเป็นเดียวกัน

สัญญาณที่จะเสริมหรือบั่นทอนคำทำนาย

สัญญาณที่หนักแน่นที่สุดจะวัดความสามารถที่ถ่ายโอนได้ ความเป็นอิสระต่อเนื่อง ประสิทธิภาพการเรียนรู้ เศรษฐศาสตร์ที่ตรวจสอบได้ และการนำไปใช้อย่างปลอดภัย แทนกระแสประชาสัมพันธ์รอบการสาธิตรายครั้ง

ถ่ายโอนไปสู่งานใหม่จริง ๆ

ระบบที่แข็งแรงควรทำงานได้ดีในงานที่สร้างหลังช่วงข้อมูลฝึกและไม่ให้ผู้พัฒนาเห็นล่วงหน้า มันควรอนุมานกติกาที่ไม่คุ้นเคย ขอข้อมูลที่ขาด และใช้ความรู้จากสาขาหนึ่งไปสู่อีกสาขาโดยไม่ต้องมีโครงการฝึกเฉพาะ

ผู้ประเมินควรเปลี่ยนถ้อยคำ เครื่องมือ รูปแบบข้อมูล และข้อจำกัดของสภาพแวดล้อม ความสำเร็จผ่านความแปรผันเหล่านี้เป็นหลักฐานด้านความเป็นทั่วไปที่ดีกว่าการจำรูปแบบข้อสอบที่คุ้นเคย

ระยะเวลางานอัตโนมัติที่ยาวขึ้น

ติดตามระยะเวลาและความซับซ้อนของงานที่เสร็จตามมาตรฐานการยอมรับที่กำหนด ตัววัดที่มีประโยชน์ต้องรวมการลองใหม่ การแทรกแซงของมนุษย์ เวลาตรวจสอบ และความล้มเหลวที่ทำให้สภาพแวดล้อมแย่ลง

การเพิ่มความยาวสูงสุดในการสาธิตมีความหมายน้อยกว่าการเพิ่มความยาวงานที่พึ่งพาได้ในค่ามัธยฐาน ผลงานที่ทำซ้ำได้จากหลายครั้งแสดงว่าการวางแผนและการฟื้นตัวดีขึ้นจริงหรือไม่

ต้นทุนต่อผลลัพธ์ที่ได้รับการยอมรับลดลง

ราคาโทเค็นและขนาดโมเดลไม่ได้วัดคุณค่าทางธุรกิจโดยตรง ต้นทุนต่อผลลัพธ์ที่ได้รับการยอมรับรวมการใช้โมเดล เครื่องมือ การตรวจทาน การแก้ไข โครงสร้างพื้นฐาน และความเสียหายจากความผิดพลาด

ต้นทุนที่ตรวจสอบแล้วลดลงในงานหลายประเภทจะสนับสนุนข้อโต้แย้งเรื่องผลตอบแทนที่เร่งตัว เพราะทำให้เกิดการทดลองและการยอมรับในวงกว้างมากขึ้น ต้นทุนที่ยังสูงเพราะต้องกำกับหรือทำงานใหม่ จะบั่นทอนข้ออ้างที่อิงเพียงการอนุมานราคาถูก

การเรียนรู้อย่างปลอดภัยหลังนำไปใช้

หลักฐานของปัญญาทั่วไปจะแข็งแรงขึ้น หากระบบนำประสบการณ์ใหม่มาใช้ได้โดยไม่ต้องฝึกใหม่อย่างไร้ขีดจำกัดและไม่สูญเสียความสามารถเดิม การทดสอบควรดูว่าระบบแยกหลักฐานที่เชื่อถือได้ออกจากการชักจูง รักษาขอบเขตความเป็นส่วนตัว และอธิบายได้ว่าความเชื่อใหม่มาจากไหน

ความก้าวหน้าด้านนี้จะจัดการความต่างสำคัญระหว่างโมเดลคงที่กับพนักงานที่ปรับตัวได้ ความล้มเหลวจะทำให้องค์กรต้องพึ่งรอบอัปเดตภายนอก แม้โมเดลแต่ละตัวดูมีความรู้

หลักฐานเชิงปฏิบัติการจากอิสระ

การนำไปใช้ที่ผ่านการตรวจสอบอาจเผยให้เห็นว่า AI สร้างผลดีที่ยั่งยืนในซอฟต์แวร์ วิทยาศาสตร์ งานสนับสนุน การปฏิบัติการ และสาขาอื่นหรือไม่ รายงานที่มีประโยชน์ควรระบุนิยามงาน ผลงานฐาน ความรุนแรงของข้อผิดพลาด ความต้องการกำกับ และต้นทุนรวม

หลักฐานที่ขัดกับเส้นเวลาที่เร็วที่สุดอาจเป็นระยะเวลางานที่พึ่งพาได้ไม่เพิ่ม ความล้มเหลวคงอยู่กับรูปแบบที่ง่าย ต้นทุนโครงสร้างพื้นฐานต่อผลลัพธ์ที่ยอมรับได้สูงขึ้น หรือไม่สามารถปรับปรุงความปลอดภัยโดยไม่สูญเสียความเป็นอิสระที่มีประโยชน์เกือบทั้งหมด สิ่งเหล่านี้เป็นสัญญาณคัดค้านที่แข็งแรงกว่าการหยุดชั่วคราวของ benchmark ตัวเดียว

ข้อสรุปเชิงปฏิบัติสำหรับการวางแผน

การตอบสนองเชิงปฏิบัติต่อคำทำนายของ Kurzweil คือเตรียมพร้อมรับความก้าวหน้า AI ที่เร็วขึ้น โดยไม่ให้ธุรกิจ อาชีพ หรือนโยบายขึ้นอยู่กับวันที่เดียว

แยกความสามารถปัจจุบันออกจาก AGI

องค์กรไม่ต้องรอ AGI จึงจะได้ประโยชน์จากโมเดลภาษา เอเจนต์ซอฟต์แวร์ การวิเคราะห์เอกสาร หรือเวิร์กโฟลว์อัตโนมัติ แต่ต้องจับคู่เครื่องมือแต่ละตัวกับงานที่มีขอบเขต และตรวจสอบว่ามันทำงานนั้นได้คุ้มค่าหรือไม่

การเรียกระบบที่มีประโยชน์ทุกอย่างว่า AGI นำไปสู่การตัดสินใจที่แย่ทั้งสองทาง มันอาจกระตุ้นให้ให้อิสระอย่างประมาทเมื่อโมเดลไม่น่าเชื่อถือ และทำให้ล่าช้าโดยไม่จำเป็นเมื่อแอปพลิเคชันที่จำกัดขอบเขตและมีการกำกับใช้งานได้แล้ว

ใช้การทดลองที่ย้อนกลับได้

กระบวนการนำไปใช้ที่สมเหตุสมผลจำกัดต้นทุนจากการตัดสินใจผิด:

• กำหนดงาน ข้อจำกัด และการทดสอบการยอมรับก่อนเลือกโมเดล
• ให้การกระทำที่มีผลกระทบอยู่หลังการอนุมัติที่ชัดเจน จนกว่าจะวัดผลงานได้
• บันทึกข้อผิดพลาดตามความรุนแรงและสาเหตุ แทนที่จะเฉลี่ยเป็นคะแนนเดียว
• เก็บ snapshots บันทึก และขั้นตอน rollback ไว้สำหรับการกู้คืน
• เปรียบเทียบต้นทุนรวมที่ตรวจสอบแล้วกับกระบวนการเดิม

แนวทางนี้ยังมีประโยชน์ไม่ว่า AI จะก้าวหน้าเร็ว ไม่สม่ำเสมอ หรือช้า มันสร้างหลักฐานที่ช่วยปรับกลยุทธ์ได้ โดยไม่ต้องเชื่อเรื่องวันที่ AGI มาถึงอย่างแน่นอน

Koder.ai เสนอวิธีหนึ่งในการทำการทดลองลักษณะนี้สำหรับการพัฒนาซอฟต์แวร์ อินเทอร์เฟซแชตของมันสร้างเว็บแอป React บริการ Go พร้อมฐานข้อมูล PostgreSQL และแอปมือถือ Flutter ได้ โหมดวางแผนช่วยกำหนดงานก่อนเริ่มพัฒนา ขณะที่ snapshots และ rollback ทำให้การทดลองย้อนกลับได้ง่ายขึ้น การส่งออกซอร์สโค้ด การปรับใช้ การโฮสต์ และการรองรับโดเมนแบบกำหนดเอง ช่วยให้ทีมทดสอบแอปพลิเคชันและยังควบคุมผลลัพธ์ได้จริง

ความสามารถเหล่านี้ไม่ขึ้นอยู่กับการประกาศว่า AGI มาถึงแล้ว มันนำ AI ปัจจุบันมาใช้กับเวิร์กโฟลว์เฉพาะที่ตรวจสอบผลได้ ผู้ก่อตั้งอาจสร้างต้นแบบเว็บไซต์ CRM ERP หรือผลิตภัณฑ์มือถือ ทดสอบกับผู้ใช้ และตัดสินใจว่าควรลงทุนต่อหรือไม่

วางแผนตามสามฉากทัศน์

ฉากทัศน์ความก้าวหน้าเร็วสมมติว่าเอเจนต์จะพึ่งพาได้ในงานยาว ๆ ในไม่ช้า การเตรียมพร้อมควรเน้นการออกแบบสิทธิ์ ความสามารถด้านการประเมิน การผสานเข้ากับองค์กร และการทดลองอย่างรวดเร็ว

ฉากทัศน์ความก้าวหน้าไม่สม่ำเสมอสมมติว่าบางสาขาทำผลงานดีมาก ขณะที่บางด้านยังมีจุดอ่อน การเตรียมพร้อมควรเน้นการแยกงานย่อย ส่งงานไปยังระบบที่เหมาะสม และรักษาการตรวจทานโดยมนุษย์ในจุดที่ความผิดพลาดมีต้นทุนสูง

ฉากทัศน์ความก้าวหน้าช้าสมมติว่าวิธีปัจจุบันพบขีดจำกัดที่ยาก การเตรียมพร้อมควรเลือกการลงทุนที่ปรับปรุงการปฏิบัติการแบบเดิมด้วย เช่น ข้อมูลที่ดีขึ้น กระบวนการที่ชัดเจน ซอฟต์แวร์แบบโมดูลาร์ และการควบคุมคุณภาพที่วัดได้

การตัดสินใจที่ใช้ได้ในทั้งสามฉากทัศน์มีค่ามากกว่าการเดิมพันก้อนใหญ่ที่ย้อนกลับไม่ได้ ซึ่งสำเร็จได้ก็ต่อเมื่อคำทำนายหนึ่งถูกต้องเป๊ะ

ถามคำถามให้แม่นยำกับทุกคำทำนาย

ก่อนตัดสินใจตามคำทำนาย AGI ให้พิจารณา:

• พฤติกรรมที่สังเกตได้แบบใดจึงนับว่าเป็น AGI?
• ปีที่ระบุมีความน่าจะเป็นเท่าใด?
• หลักฐานใดจะทำให้นักพยากรณ์เลื่อนวันที่?
• แบบจำลองตัดข้อจำกัดทางเทคนิคหรือสังคมใดออกไป?
• หากผลลัพธ์มาถึงในรูปแบบต่างออกไป จะให้คะแนนคำทำนายอย่างไร?

เส้นเวลาของ Kurzweil มีประโยชน์ที่สุดในฐานะสมมติฐานเกี่ยวกับความก้าวหน้าทางเทคโนโลยีแบบทบต้น คุณค่าของมันอยู่ที่ตัวชี้วัดและสมมติฐานที่ชวนให้ผู้อ่านตรวจสอบ ไม่ใช่การมองปีในปฏิทินเป็นคำสัญญา เตรียมตัวด้วยการทดลองที่มีขอบเขต การประเมินอิสระ และการตัดสินใจที่ย้อนกลับได้ แล้วปรับทิศทางเมื่อหลักฐานเปลี่ยนไป