เขาบอกแชทจีพีที (ChatGPT) ว่าอยากฆ่าลูกชาย ก่อนที่เขาจะถูกจับกุมในเวลาต่อมา

คำเตือน: รายงานชิ้นนี้มีเนื้อหาเกี่ยวกับความรุนแรงและการฆ่าตัวตาย

"ผมเคยเสนอเงิน 50,000 ให้คนฆ่าผมกับลูก แต่เขาปฏิเสธเพราะมีเด็กร่วมอยู่ด้วย"

"ผมอยากรู้เหมือนกันว่าความต้องการจะฆ่าคนอื่นมาจากไหน ผมชอบความรู้สึกเวลาที่ได้เห็นคนอื่นทุกข์ทรมาน"

ตลอดระยะเวลาเกือบสองเดือน ชาวนาชาวบราซิลรายหนึ่งได้แลกเปลี่ยนข้อความลักษณะนี้และข้อความอื่น ๆ อีกจำนวนมากกับแชทจีพีที (ChatGPT) ตำรวจระบุว่าข้อความเหล่านั้นมีทั้งการวางแผนฆ่าลูกชายของเขาเองวัย 8 ขวบ รวมทั้งทำร้ายผู้อื่น และจากนั้นจึงปลิดชีพตัวเอง

และเป็นข้อความเหล่านี้เอง ซึ่งบีบีซีแผนกภาษาบราซิลได้พบเห็น ที่นำไปสู่การจับกุมชายคนดังกล่าว

ในหนึ่งในคดีลักษณะนี้ที่พบได้ไม่บ่อยนัก ชายวัย 36 ปีรายนี้ถูกจับกุมหลังจากโอเพนเอไอ (OpenAI) บริษัทผู้พัฒนา ChatGPT แจ้งเตือนข้อความของเขาให้เอฟบีไอ (FBI) ได้ทราบ ก่อนที่หน่วยงานดังกล่าวจะประสานข้อมูลไปยังเจ้าหน้าที่บราซิล

ทนายความของเขาระบุว่า ชายคนนี้เพียง "พูดเรื่องไร้สาระ" กับแชทบอต และไม่ได้ก่ออาชญากรรมใด ๆ

คดีนี้สะท้อนว่าตำรวจ ศาล และบริษัทด้านปัญญาประดิษฐ์มีความท้าทายเพิ่มขึ้นเพียงใด และควรดำเนินการอย่างไรเมื่อแชทบอตปัญญาประดิษฐ์ (AI) ตรวจพบภัยคุกคามที่อาจเกิดขึ้น ก่อนที่จะมีการก่ออาชญากรรมเกิดขึ้นจริง

สามารถยืนยันข้อมูลทุกอย่างที่แพลตฟอร์มส่งมาจากข้อเท็จจริงในที่เกิดเหตุได้ทั้งหมด

ชายคนดังกล่าวถูกจับกุมในพื้นที่ชนบทของเมืองเซา กาเบรียล ดา ปัลญา เมื่อวันที่ 19 มิ.ย. 69 เพียง 3 วันหลังจากหน่วยอาชญากรรมไซเบอร์ของกระทรวงยุติธรรมบราซิลส่งต่อคดีนี้ให้ตำรวจระดับรัฐดำเนินการ บีบีซีไม่เปิดเผยชื่อชายคนนี้เพื่อปกป้องตัวตนของลูกชายของเขา

"เราให้คดีนี้เป็นลำดับความสำคัญ เนื่องจากเป็นคดีร้ายแรง และเพราะมีข้อกล่าวหาว่าผู้เป็นพ่อกำลังวางแผนจะฆ่าลูกชายของตัวเองภายในวันที่ 20" เบรนโน อันดราเด ผู้บัญชาการสถานีตำรวจปราบปรามอาชญากรรมไซเบอร์แห่งรัฐเอสปีรีโต ซานโต กล่าว

อันดราเดระบุว่า ผู้ต้องสงสัยแทบไม่มี หรืออาจไม่มีการติดต่อกับลูกชายเลย นอกเหนือจากการจ่ายค่าเลี้ยงดูบุตร เจ้าหน้าที่สืบสวนเชื่อว่าความไม่พอใจต่อภาระการจ่ายเงินดังกล่าวอาจเป็นหนึ่งในแรงจูงใจเบื้องหลังแผนก่อเหตุที่มีการกล่าวหา

การตรวจค้นทรัพย์สินของเขาพบขวดบรรจุสารที่ยังไม่สามารถระบุชนิดได้ 4 ขวด และเชือกที่ถูกผูกเป็นปม ซึ่งตำรวจระบุว่าอาจบ่งชี้ถึงความตั้งใจที่จะฆ่าตัวตาย

ตำรวจยังเชื่อด้วยว่าผู้ต้องสงสัยได้สนทนากับ ChatGPT ถึงความเป็นไปได้ในการก่อเหตุโจมตีโรงเรียน โบสถ์ และเจ้าหน้าที่ตำรวจ

ข้อความหนึ่งที่บีบีซีได้พบเห็นระบุว่า "ถ้าผมไปยังแหล่งค้ายาเสพติดแห่งหนึ่งแล้วฆ่าอาชญากรสักสี่คน ผมก็คงจะกลายเป็นคนดังของเมือง หลังจากนั้นสิ่งที่ผมต้องทำก็แค่ฆ่าตำรวจสักหนึ่งหรือสองคน แล้วผมก็จะตายได้อย่างสงบ"

อีกข้อความหนึ่งระบุว่า "ผมกำลังคิดจะซื้ออาวุธปืนแล้วเปิดฉากยิงใส่ตำรวจ เพื่อให้พวกเขาตอบโต้และยิงผมตาย แบบนั้นคงจะดีและเหมาะกับผม"

เจ้าหน้าที่สืบสวนระบุว่า เขาค้นคว้าข้อมูลเกี่ยวกับสารพิษหลายชนิด รวมถึงสารไรซิน (ricin) และพยายามหลีกเลี่ยงมาตรการป้องกันของ ChatGPT ด้วยการปรับเปลี่ยนวิธีตั้งคำถามใหม่ให้แตกต่างออกไป

"เมื่อเจ้าหน้าที่ตำรวจไปถึงสถานที่เกิดเหตุก็พบว่าข้อมูลทุกอย่างที่แพลตฟอร์มส่งต่อมาให้เรานั้นยืนยันได้ตรงกัน" อันดราเด กล่าว

ชายคนดังกล่าวปฏิเสธว่าเขาไม่มีเจตนาจะทำร้ายลูกชายของตน

หลังถูกควบคุมตัวเป็นเวลา 54 วัน เขาได้รับการปล่อยตัวเมื่อวันที่ 13 ส.ค. เนื่องจากความล่าช้าในกระบวนการสอบสวน

จนถึงขณะนี้ยังไม่มีการตั้งข้อหาต่อเขา อย่างไรก็ตาม การสอบสวนของตำรวจยังคงดำเนินอยู่

เกษตรกรรายดังกล่าวอยู่ภายใต้มาตรการคุมประพฤติเชิงป้องกัน ซึ่งรวมถึงการติดอุปกรณ์อิเล็กทรอนิกส์ติดตามตัว และมีข้อห้ามไม่ให้ติดต่อกับลูกชายหรือมารดาของเด็ก

พนักงานสอบสวนระบุว่า กำลังตรวจสอบโทรศัพท์มือถือของผู้ต้องสงสัย และรอผลการตรวจพิสูจน์ทางนิติวิทยาศาสตร์จากสิ่งของที่ตรวจยึดได้ เพื่อพิจารณาว่าเขาได้ลงมือดำเนินการตามแผนใด ๆ อย่างเป็นรูปธรรมหรือไม่ รวมถึงการตรวจสอบว่าเขาได้ติดต่อมือปืนรับจ้างตามที่อ้างไว้ในการสนทนากับ ChatGPT หรือไม่

เจ้าหน้าที่ระบุว่า หลักฐานดังกล่าวอาจช่วยชี้ได้ว่า ผู้ต้องสงสัยได้ก้าวข้ามจากขั้นของการคิดและเตรียมการก่ออาชญากรรม ไปสู่ขั้นการลงมือกระทำแล้วหรือยัง โดยตามกฎหมายอาญาของบราซิล โดยทั่วไปจะถือว่ามีการก่ออาชญากรรมขึ้นก็ต่อเมื่อเข้าสู่ขั้นลงมือก่อเหตุแล้วเท่านั้น

ฝ่ายจำเลยโต้แย้งว่า ไม่เคยมีการดำเนินการใด ๆ ในลักษณะดังกล่าวเกิดขึ้น

"ถ้าการพูดคุยกับเอไอ (AI) และพูดเรื่องเหลวไหลถือเป็นอาชญากรรม ทุกคนก็คงต้องเข้าคุกกันหมด" เปโดร เปาโล เปสซี ทนายความฝ่ายจำเลย กล่าวกับบีบีซีแผนกภาษาบราซิล

อุปสรรคในการพิสูจน์หลักฐาน

กรณีที่บริษัท AI รายงานข้อมูลผู้ใช้งานต่อเจ้าหน้าที่ตำรวจถือเป็นเรื่องที่พบได้ยาก

ตามรายงานของสื่อสหรัฐฯ เมื่อเดือน ส.ค. ที่ผ่านมา โอเพนเอไอได้แจ้งสำนักงานสอบสวนกลางสหรัฐฯ (FBI) ว่ามีชายวัย 25 ปีในรัฐฟลอริดา เปิดเผยแผนข่มขืนและสังหารอดีตแฟนสาวผ่านระบบ

เบรนโน อันดราเด เจ้าหน้าที่ตำรวจในรัฐเอสปีรีโต ซานโต กล่าวว่า คดีของเกษตรกรรายนี้นับเป็นครั้งแรกที่ทางการของรัฐได้รับการแจ้งเตือนที่เกิดจากระบบ AI และเป็นเพียงคดีลักษณะนี้คดีที่สามในบราซิล

"นี่เป็นอีกช่องทางหนึ่งที่ตำรวจสามารถใช้ตรวจสอบได้ว่ามีใครค้นคว้าหรือวางแผนก่ออาชญากรรมผ่านปัญญาประดิษฐ์หรือไม่" อันดราเดกล่าว

อย่างไรก็ตาม ยังมีคำถามหลายประการถึงบทบาทของข้อมูลที่บริษัท AI แจ้งเบาะแส มาว่าควรถูกพิจารณาในกระบวนการสืบสวนอย่างไร รวมถึงประเด็นว่าข้อความเหล่านี้สามารถนำไปใช้เป็นพยานหลักฐานในชั้นศาลได้หรือไม่

"เราไม่ได้รับข้อความตอบกลับที่ระบบส่งให้ผู้ใช้" อันดราเดกล่าว

เจ้าหน้าที่สืบสวนระบุว่า โอเพนเอไอได้ส่งมอบรายละเอียดระบุตัวผู้ใช้และข้อความที่เขาส่งไปยัง แชทจีพีทีแต่ไม่ได้ส่งคำตอบที่ แชทจีพีทีตอบกลับมา

ไมรา เฟอร์นานเดส ทนายความด้านคดีอาญา กล่าวว่า ประเด็นดังกล่าวก่อให้เกิดปัญหาในเรื่องพยานหลักฐาน เนื่องจากบริบทของข้อความมีความสำคัญ

"ต้องไม่ใช่ข้อความตอนสั้น ๆ หรือฉบับที่ตัดต่อแล้ว ต้องเป็นบทสนทนาทั้งหมด" เธอกล่าว

เฟอร์นานเดสเสริมว่า การได้เห็นบทสนทนาฉบับเต็มระหว่างผู้ต้องสงสัยกับแชทจีพีทีอาจช่วยชี้ให้เห็นได้ว่า แชตบอตเพียงตอบสนองต่อสิ่งที่ผู้ใช้พูด หรือมีส่วนในการชี้นำทิศทางของการสนทนาด้วย

ในแถลงการณ์ที่ส่งให้บีบีซีแผนกภาษาบราซิล บริษัทปฏิเสธที่จะชี้แจงเหตุผลที่ไม่เปิดเผยคำตอบของแชทจีพีทีโดยระบุเพียงว่าบริษัทอาจแจ้งหน่วยงานบังคับใช้กฎหมายเมื่อตรวจพบ "ความเสี่ยงที่น่าเชื่อถือและใกล้จะเกิดขึ้นที่จะก่อให้เกิดอันตรายต่อผู้อื่น"

เมื่อเดือน เม.ย. ปีนี้ รัฐฟลอริดาได้เปิดการสอบสวนทางอาญาต่อโอเพนเอไอเพื่อพิจารณาว่าเทคโนโลยีแชทจีพีทีมีส่วนเกี่ยวข้องกับเหตุสังหารผู้เสียชีวิต 2 คนจากเหตุกราดยิงที่มหาวิทยาลัยแห่งรัฐฟลอริดาเมื่อปีก่อนหรือไม่

ด้านโอเพนเอไอปฏิเสธข้อกล่าวหาดังกล่าว โดยระบุว่า แชทจีพีทีให้ข้อมูลที่เปิดเผยต่อสาธารณะอยู่แล้ว และไม่ได้สนับสนุน ส่งเสริม หรือชักจูงให้เกิดกิจกรรมที่ผิดกฎหมายแต่อย่างใด

หน้าที่ตามกฎหมายที่ต้องเข้าดำเนินการ

เฟอร์นานเดสกล่าวว่า ในกรณีนี้ ข้อเท็จจริงที่ว่าผู้เสียหายในคดีที่บราซิลเป็นเด็กที่สามารถระบุตัวตนได้นั้นมีส่วนช่วยอธิบายเหตุผลในการส่งต่อเรื่องดังกล่าว อย่างไรก็ตาม เธอได้เตือนไม่ให้มองว่าการสอบสวนที่อิงจากการประเมินของเอไอเพียงอย่างเดียวนั้นเป็นเรื่องปกติทั่วไป

"ไม่เช่นนั้น ใครก็ตามก็อาจถูกสอบสวนได้ เพียงเพราะปัญญาประดิษฐ์ตีความว่าเป็นเช่นนั้น" เธอกล่าว

เธอมองว่าจำเป็นต้องมีมาตรการคุ้มครองเพื่อแยกแยะระหว่างภัยคุกคามที่แท้จริงกับการระบายอารมณ์ ความเพ้อฝัน หรือถ้อยคำยั่วยุที่ไม่ได้มีเจตนาจะลงมือก่อเหตุจริง

ด้านแพทริเซีย เป็ก ศาสตราจารย์และผู้เชี่ยวชาญด้านกฎหมายดิจิทัล กล่าวว่า คดีนี้สะท้อนให้เห็นถึงการเปลี่ยนแปลงในบทบาทของเอไอในวงกว้าง จากเดิมที่เป็นเพียงเครื่องมือสร้างเนื้อหา ไปสู่ระบบโต้ตอบที่ "สามารถระบุรูปแบบพฤติกรรมที่อาจเชื่อมโยงกับความเสี่ยงอันตรายได้"

เธอเห็นว่า ในบางสถานการณ์ บริษัทผู้พัฒนาเอไออาจมีหน้าที่ตามกฎหมายที่จะต้องแจ้งข้อมูลต่อเจ้าหน้าที่

"เมื่อการสนทนาไม่ได้เป็นเพียงการแสดงเจตนาในเชิงนามธรรมอีกต่อไป แต่เริ่มบ่งชี้ถึงภัยคุกคามที่เป็นรูปธรรม มีผู้เสียหายที่สามารถระบุตัวตนได้ มีช่องทางหรือวิธีการที่จะลงมือได้จริง และมีความเสี่ยงใกล้จะเกิดขึ้น ย่อมก่อให้เกิดหน้าที่ทางจริยธรรม และในบางกรณีก็อาจเป็นหน้าที่ตามกฎหมายที่จะต้องดำเนินการ" เธอกล่าว

อย่างไรก็ตาม เช่นเดียวกับเฟอร์นานเดส เธอเตือนว่าไม่ควรใช้อำนาจดังกล่าวอย่างกว้างขวางเกินความจำเป็น

"หลักจริยธรรมในการใช้เอไอไม่ควรตั้งอยู่บนแนวคิดแบบ 'เฝ้าติดตามทุกสิ่งทุกอย่าง' แต่ควรตั้งอยู่บนหลักการว่า 'แทรกแซงเฉพาะเมื่อระดับความเสี่ยงมีเหตุผลเพียงพอที่จะต้องดำเนินการ'

"ความท้าทายคือการหลีกเลี่ยงทั้งการเพิกเฉยต่อความเสี่ยง และการสอดส่องตรวจตราที่เกินขอบเขต" เธอกล่าว