ความกังวลที่ว่าเอไอจะมาแทนมนุษยชาติ มีโอกาสเป็นไปได้จริงมากน้อยแค่ไหน

ในช่วงไม่กี่สัปดาห์ที่ผ่านมา สารพัดคำเตือนเกี่ยวกับอันตรายที่อาจเกิดขึ้นได้จากเอไอได้จุดชนวนให้เกิดการเรียกร้องความร่วมไม้ร่วมมือกันทำบางสิ่งบางอย่างเพื่อชะลอการพัฒนาเทคโนโลยีนี้

คำเตือนดังกล่าวถูกอ้างถึงจากทั้งนักวิจัยในปัจจุบันและอดีตที่ระบุว่าเทคโนโลยีนี้จะก่ออันตรายต่อมนุษยชาติ โดยหนึ่งในนั้นบอกว่ามีโอกาสกว่า 10% ที่มันจะ "คร่าชีวิตมนุษย์ทุกคน" ได้ ทำให้เกิดการตื่นตัวในเรื่องนี้

ผู้พัฒนาเอไอรายใหญ่ ๆ อย่างโอเพนเอไอ (OpenAI) และแอนโทรปิก (Anthropic) เรียกร้องให้ฝ่ายนิติบัญญัติออกกฎระเบียบมากำกับดูแล แม้จะถูกบางคนอาจมองด้วยความกังขาว่าความเคลื่อนไหวนี้มีเป้าหมายเพื่อยึดครองความได้เปรียบเหนือคู่แข่งก็ตาม

อย่างไรก็ดี ข้อกล่าวอ้างที่มาจากกลุ่มคนระดับแถวหน้าของวงการก็สร้างความหวั่นวิตกไปแล้ว และนี่คือสิ่งที่เรารู้ในตอนนี้

เหตุใดบางคนจึงคิดว่าเอไออาจเป็นภัยคุกคาม

นักวิจัยเอไอส่วนหนึ่งมองว่ามีสัญญาณที่น่ากังวลว่าระบบต่าง ๆ กำลังมีการพัฒนาทั้งในด้านความสามารถและอำนาจอย่างรวดเร็วเกินไป

ชื่อของอีแวน ฮูบิงเกอร์ กลายเป็นพาดหัวข่าวเมื่อเขาออกมาแสดงความเชื่อว่ามีโอกาสมากกว่า 10% ที่เอไอ "อาจคร่าชีวิตมนุษย์ทั้งหมด" ได้ภายในทศวรรษหน้า

เขาทำงานในส่วนการปรับแนวทางของเอไอ (alignment) ซึ่งเป็นสายงานที่มีจุดประสงค์เพื่อฝังแนวคิดและหลักจริยธรรมของมนุษย์ให้เข้าไปอยู่ในเอไอ หรืออาจจะอธิบายได้ว่า คือการทำให้เอไอทำงานในทิศทางที่สอดคล้องกับสิ่งที่มนุษย์ให้คุณค่า

แม้เขาจะระบุว่าความเสี่ยงจากระบบปัจจุบันยังอยู่ในระดับ "ต่ำ" แต่ความเห็นของเขาเกิดขึ้นในช่วงที่นักวิจัยอีกคนหนึ่งลาออกจากแอนโทรปิกและนักวิจัยคนนั้นก็เตือนว่าผู้ที่กำลังพัฒนาเทคโนโลยีนี้กำลังจะคุมมันไม่อยู่

เจคอบ ค็อกซอน บอกกับบีบีซีว่า เขาและพนักงานคนอื่น ๆ "หวาดกลัวจริง ๆ" ต่อความรวดเร็วในพัฒนาการของเทคโนโลยีนี้ และสิ่งที่มันอาจส่งผลต่อมนุษยชาติ

นี่เป็นเพียงข้อกังวลครั้งหลัง ๆ ที่เสริมเพิ่มเติมจากความหวาดวิตกที่มีมาอย่างยาวนานเกี่ยวกับศักยภาพของเอไอที่จะคุกคามมนุษยชาติ หากมันเติบโตจนเทียบเท่าหรือเหนือกว่าความสามารถของมนุษย์

ความหวาดวิตกเช่นนี้สามารถนับย้อนถอยหลังไปได้ถึงหลายทศวรรษก่อน ตั้งแต่ตอนที่อลัน ทัวริง เคยเขียนระบุไว้เมื่อช่วงทศวรรษที่ 1950 ว่าหากเครื่องจักรอัจฉริยะถือกำเนิดขึ้นมาได้ พวกมันอาจเป็นฝ่ายที่ครองอำนาจ

ในช่วงไม่กี่ปีที่ผ่านมา บริษัทเอไอรายใหญ่แข่งขันกันพัฒนาระบบที่มีความสามารถสูงขึ้นเรื่อย ๆ ทั้งเพื่อผลกำไรและเพื่อไล่ตามการสร้างสิ่งที่พวกเขาเรียกว่า "ซูเปอร์ อินเทลลิเจนซ์" (super intelligence) ซึ่งเป็นเทคโนโลยีที่มีความเชื่อในทางทฤษฎีว่าจะมีความฉลาดเหนือมนุษย์

แตกต่างจากระบบและเครื่องมือที่ผู้คนจำนวนมากใช้ระบบและเครื่องมือเอไอในชีวิตประจำวันเพื่อทำงานต่าง ๆ เช่น เขียนอีเมล หรือสร้างวิดีโอ แต่ในทางทฤษฎีแล้ว ระบบเอไอระดับซูเปอร์อินเทลลิเจนซ์จะสามารถรับมือกับงานที่ซับซ้อนได้กว่านั้นมาก

โอเพนเอไอและแอนโทรปิกระบุว่า พวกเขาตั้งใจพัฒนาเทคโนโลยีดังกล่าวเพื่อให้เป็นประโยชน์ต่อมนุษย์ และปกป้องมนุษย์จากความเสี่ยงที่จะคุกคามการดำรงอยู่ของเผ่าพันธุ์

แต่ผู้วิจารณ์ส่วนหนึ่งเชื่อว่าอย่างไรเครื่องจักรก็ไม่มีทางเสมอเหมือนมนุษย์ และบริษัทเอไอต่าง ๆ ก็กล่าวอ้างเกินจริงถึงความสามารถของเทคโนโลยีนี้เพียงเพื่อเพิ่มชื่อเสียงหรือกำไร

เอไออาจคุกคามมนุษยชาติได้ด้วยวิธีใด ตามมุมมองของผู้เชี่ยวชาญ

นักวิจัย ผู้เชี่ยวชาญ และผู้บริหารบริษัทเอไอที่กังวลว่าเทคโนโลยีนี้มีโอกาสจะก่ออันตรายกับมนุษยชาติ ได้ฉายภาพสถานการณ์ที่น่าวิตกไว้หลายแบบ

ดาริโอ อโมเดอี ระบุเมื่อเดือน ก.ย. ว่าเอไอได้พัฒนาไป "รวดเร็วมาก" เกินกว่าที่คาดไว้ โดยพัฒนาการของมันยังรวมถึงด้าน "ความสามารถในการสร้างเอไอรุ่นต่อไป"

นี่คือความกังวลว่าเมื่อถึงจุด ๆ หนึ่งแล้ว ในทางทฤษฎี เอไออาจสามารถพัฒนาตนเองได้โดยที่ไม่ต้องอาศัยมนุษย์เลย

ความหวาดวิตกเช่นนี้ถูกจุดขึ้นหลังจากเหตุการณ์ล่าสุดที่เครื่องมือเอไอสามารถเจาะระบบเว็บไซต์บางเว็บไซต์ได้เอง ทั้งที่ไม่ได้มีคำสั่งใด ๆ ให้มันทำแบบนั้น

นักวิจัยบางคนที่กังวลในประเด็นนี้ได้ออกมาบอกว่าบุคคลที่อยู่แนวหน้าของการพัฒนาเอไอเริ่มหวาดกลัวมากขึ้นเรื่อย ๆ ว่าจะไม่สามารถควบคุมระบบที่เรียกว่า "เอไอเอเจนต์" (AI agents) ได้

ระบบดังกล่าวถูกพัฒนามาให้สามารถดำเนินภารกิจและกระทำสิ่งต่าง ๆ ได้อย่างอิสระ

นอกจากนี้ ยังมีสถานการณ์อื่น ๆ ที่ถูกหยิบยกขึ้นมา อาทิ การที่ระบบเอไออัจฉริยะขั้นสูงอาจถูกใช้เพื่อขยายความรุนแรงหรือใช้เป็นหลักในการจารกรรม การโจมตีทางไซเบอร์หรือสงครามชีวภาพ หรือทำให้เศรษฐกิจหยุดชะงัก ไม่ว่าจะอาจจะด้วยความบังเอิญหรือโดยเจตนาก็ตาม

อย่างไรก็ตาม คำเตือนดังกล่าวเป็นการคาดการณ์อนาคต เป็นเพียงสมมติฐาน และบางคนก็มองว่าเป็นเรื่องเกินจริงทั้งนั้น

ผู้เชี่ยวชาญบางคนยังวิจารณ์การมุ่งเน้นไปที่ความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติ แทนที่จะให้ความสำคัญกับปัญหาที่เกิดขึ้นแล้ว เช่น การใช้เทคโนโลยีสร้างภาพเปลือยของผู้หญิงโดยไม่ได้รับความยินยอม หรือ ดีพซีค ไปจนถึงการเผยแพร่ข้อมูลที่ทำให้เข้าใจผิด และการใช้เอไอเพื่อช่วยในการหลอกลวงคน

กลุ่มสมาชิกสภาผู้แทนราษฎรจากหลายพรรคการเมืองและสมาชิกสภาขุนนางได้เผยแพร่รายงานสรุปความเสี่ยงด้านสิทธิมนุษยชนจากเอไอ โดยระบุว่าจำเป็นต้องมีกฎหมายใหม่เพื่อ "รับมือกับขนาดและความร้ายแรง" ของภัยคุกคามเหล่านี้

ข้อเสนอในการ "ชะลอการพัฒนาเทคโนโลยีเอไอ" มีอะไรบ้าง

ดาริโอ อโมเดอี จากแอนโทรปิก และแซม อัลต์แมน ประธานเจ้าหน้าที่บริหารของโอเพนเอไอ ต่างก็เรียกร้องให้มีการกำกับดูแลและ "ชะลอ" พัฒนาการของเทคโนโลยีนี้

นี่ไม่ใช่ครั้งแรกที่ผู้บริหารหรือคนในอุตสาหกรรมเรียกร้องให้เกิดการดำเนินการเช่นนี้ โดยข้อเสนอให้ชะลอพัฒนาการของเอไอยังได้รับการสนับสนุนจากอีลอน มัสก์ ผู้บริหารสเปซเอ็กซ์ (SpaceX) ด้วย

แต่ก็ยังคงมีคำถามตามมาว่าแล้วจะ "ชะลอ" ได้อย่างไรในทางปฏิบัติ

อโมเดอีบอกว่ามันไม่ได้หมายถึงการ "การหยุดฝึกโมเดลหรือหยุดความก้าวหน้าทางเทคนิค"

แทนที่จะเป็นเช่นนั้น เขาต้องการให้บริษัทต่าง ๆ "ใช้เวลาที่มากพอ" ในการปกป้องเอไอที่พวกเขากำลังพัฒนา และให้มี "ผู้ประเมินภายนอก" เข้ามาตรวจสอบงานของพวกเขา

อัลต์แมนโพสต์ผ่านเอ็กซ์ (X) ว่า จำเป็นต้องมีการกำหนดความเร็วของพัฒนาการในระยะต่าง ๆ แต่ก็เสริมว่า "เมื่อเราพูดถึงการกำหนดจังหวะความเร็ว เราไม่ได้หมายถึงการหยุดมันไปเลย"

"ความก้าวหน้าเกิดขึ้นอย่างรวดเร็วและมันจะยังเป็นอย่างนั้นต่อไป" เขากล่าว

"อย่างไรก็ตาม กระบวนการนี้น่าจะดำเนินไปอย่างช้ากว่าที่อาจเป็นไปได้ หากปราศจากมาตรการต่างๆ เช่น การจัดทำเอกสารยืนยันความปลอดภัยและการติดตามตรวจสอบ ซึ่งมาตรการเหล่านี้ล้วนมีต้นทุนสูง"

ทั้งนี้ ผู้ร่วมก่อตั้งโอเพนเอไอยังกล่าวด้วยว่าบริษัทต่าง ๆ ไม่ได้รอและจะไม่รอให้รัฐบาลลงมือดำเนินการก่อน

ทรัมป์พูดถึงเรื่องนี้อย่างไร

ประธานาธิบดีโดนัลด์ ทรัมป์ เคยยกย่องคุณประโยชน์ของเอไอและสนับสนุนให้บริษัทสหรัฐฯ เป็นผู้นำในการพัฒนาเทคโนโลยีนี้

รัฐบาลของเขาได้ลงนามในคำสั่งฝ่ายบริหารเพื่อยอมรับ "ความสำคัญเชิงยุทธศาสตร์" ของเทคโนโลยีนี้ต่อเศรษฐกิจ และได้เร่งการพัฒนามัน

"เราเชื่อว่าเรากำลังอยู่ในเกมการแข่งขันด้านเอไอและเราต้องการให้สหรัฐอเมริกาชนะการแข่งขันนั้น" เดวิด แซคส์ ผู้รับผิดชอบด้านคริปโตของรัฐบาลสหรัฐฯ กล่าวกับผู้สื่อข่าวในเดือน ก.ค. 2025

แต่ท่ามกลางคำเตือนล่าสุดเกี่ยวกับผลกระทบที่อาจเกิดขึ้นต่อมนุษยชาติ ประธานาธิบดีทรัมป์กลับมองข้ามความเสี่ยงที่เกิดจากปัญญาประดิษฐ์เหล่านี้

"มีกลุ่มพลังลบมาก ๆ กำลังหยิบยกเรื่องนี้ขึ้นมา ทั้งที่ไม่ควรจะหยิบมาเป็นประเด็น และพวกเขากำลังพูดถึงสิ่งที่จะไม่เกิดขึ้น" ทรัมป์กล่าวระหว่างการเยือนไอร์แลนด์

เขาไม่ได้กล่าวถึงแนวคิดการชะลอเอไอโดยตรง แต่บอกกับผู้สื่อข่าวว่า "เรานำหน้าจีนอยู่ในด้านเอไอ... และตรงไปตรงมาเลยนะ ผมต้องการให้เป็นแบบนั้นต่อไป เพราะใครก็ตามที่ชนะเอไอ ท้ายที่สุดจะเป็นผู้ชนะ"

จีนมองเรื่องนี้อย่างไร

จีนยังคงเงียบต่อกระแสคำเตือนที่โหมสะพัดจากบรรดานักวิจัยในบริษัทสหรัฐฯ

ท่ามกลางการแข่งขันที่ดุเดือดและข้อจำกัดในการเข้าถึงชิ้นส่วนและชิปจากสหรัฐฯ ที่ใช้สร้างโครงสร้างพื้นฐานด้านเอไอ จีนได้ผลักดันการพัฒนาเทคโนโลยีดังกล่าวภายในประเทศของตัวเอง

ในช่วงเวลาเดียวกัน จีนก็เรียกร้องให้มีการกำกับดูแลด้านเอไอระดับโลกเข้มข้นขึ้น

การเปิดตัวระบบและเครื่องมือเอไอแบบโอเพนซอร์สที่มีความสามารถสูงจากห้องปฏิบัติการของจีนในช่วงไม่กี่ปีที่ผ่านมา ได้สร้างแรงสั่นสะเทือนต่อตลาดและผู้พัฒนาในโลกตะวันตก

อโมเดอีเตือนว่า ความก้าวหน้าและความเชี่ยวชาญด้านเอไอของจีน จะสร้างความเสี่ยงด้านความมั่นคงแห่งชาติให้กับสหรัฐฯ หากมีการชะลอการพัฒนาเอไอ

กระทรวงการต่างประเทศของจีนวิจารณ์คำเตือนนี้ โดยระบุว่าเป็นวาทกรรมที่สอดแทรกการคุกคาม ความขัดแย้ง และการแข่งขันอย่างมุ่งร้าย โดยที่ไม่ได้เกิดประโยชน์ต่อใครเลย

ผู้ร่วมก่อตั้งแอนโทรปิกบอกบีบีซีว่าอาจจำเป็นต้องบังคับให้มี "สวิตช์ปิดการทำงาน" เอไอ

คาลี เฮย์ ผู้สื่อข่าวเทคโนโลยีและ ไฟซัล อิสลาม บรรณาธิการข่าวเศรษฐกิจ รายงานว่า ผู้ร่วมก่อตั้งหนึ่งในบริษัทเอไอที่ใหญ่ที่สุดในโลกบอกว่า อาจจะเป็นต้องมีข้อกำหนดให้บริษัทต่าง ๆ สร้าง "สวิตช์ปิดการทำงาน" (kill switch) เอไอที่บุคคลภายนอกสามารถเข้ามาตรวจสอบได้

แจ็ค คลาร์ก หนึ่งในเจ็ดผู้ร่วมก่อตั้งแอนโทรปิก บอกว่า แนวทางในการตัดการทำงานของซอฟต์แวร์เอไอ ให้หยุดลงโดยสิ้นเชิงหากมันเริ่มมีความเสี่ยงสูงเกินไปนั้น เป็นสิ่งที่สังคม "อาจต้องการกำหนดกฎเกณฑ์ขึ้นมาในท้ายที่สุด"

คลาร์กบอกว่า "ห้องปฏิบัติการส่วนใหญ่มีวิธีการที่แตกต่างกันในการปิดการทำงาน" เช่นเดียวกับแอนโทรปิก แต่เขาก็มองว่าเรื่องนี้อาจต้องถึงมือสมาชิกรัฐสภาที่จำเป็นต้องบังคับให้บริษัทต่าง ๆ ต้องมีอย่างน้อยสักมาตรการหนึ่งที่จะสามารถปิดการทำงานเอไอ

สมาชิกรัฐสภาสหรัฐฯ ได้เสนอร่างกฎหมายสวิตช์ปิดการทำงาน (Kill Switch Act) ซึ่งจะกำหนดให้บริษัทต่าง ๆ ต้องมีวิธีการปิดเครื่องมือเอไอที่เป็นปัญหา

โดยร่างกฎหมายดังกล่าวจะให้อำนาจหน่วยงานรัฐบาลบางแห่งในการสั่งให้ปิดหรือจำกัดการทำงานของเครื่องมือเอไอดังกล่าวด้วย

อย่างไรก็ดี ประธานาธิบดีทรัมป์ปฏิเสธข้อเรียกร้องที่มีการขอใช้ชะลอการพัฒนาเอไอ โดยระบุผ่านโซเชียลมีเดียว่า "เอไอกำลังจะครองโลก ทำลายมนุษยชาติ และก่อเรื่องเลวร้ายอื่น ๆ เหลวไหลทั้งเพ"

ในสหราชอาณาจักร รัฐบาลเพิ่งปัดตกแนวคิดในการสร้างสวิตช์ปิดการทำงานเอไอ โดยโฆษกรัฐบาลระบุว่า ระบบดังกล่าว "จะไม่สามารถป้องกันไม่ให้มีการพัฒนาหรือนำไปใช้ในทางที่ผิดในพื้นที่อื่นได้"