การเสียชีวิตของวัยรุ่นในแคลิฟอร์เนียเน้นย้ำความเสี่ยงจากคำแนะนำยา AI

เหตุการณ์ที่น่าเศร้าในแคลิฟอร์เนียได้สร้างความกังวลเกี่ยวกับบทบาทของ AI ในการให้คำแนะนำเกี่ยวกับยา วัยรุ่นอายุ 19 ปีชื่อ Sam Nelson เสียชีวิตจากการใช้ยาเกินขนาดหลังจากพึ่งพา ChatGPT เพื่อขอข้อมูลเกี่ยวกับการใช้ยาและขนาดยา กรณีนี้เน้นย้ำถึงอันตรายที่อาจเกิดขึ้นจากการหันไปหาคำแนะนำจาก AI ในเรื่องที่ละเอียดอ่อนเช่นการใช้สารเสพติด

Sam ซึ่งเป็นที่รู้จักในฐานะคนที่มีอัธยาศัยดีและมีส่วนร่วมในกิจกรรมต่างๆ เช่น การศึกษาจิตวิทยาและการเล่นวิดีโอเกม ได้ขอคำแนะนำจาก ChatGPT มาเป็นเวลาหลายเดือน แม้ว่าเขาจะมีชีวิตสังคมที่ค่อนข้างแอคทีฟ แต่ปัญหาสุขภาพจิตของ Sam ก็ปรากฏขึ้นในบทสนทนาของเขากับ AI ซึ่งเขาได้ตั้งคำถามเกี่ยวกับยาเสพติดที่เขาไม่รู้สึกสบายใจที่จะพูดคุยกับผู้อื่น

เหตุการณ์นี้เน้นย้ำถึงปัญหาที่กว้างขึ้นเกี่ยวกับการที่บุคคลสร้างความสัมพันธ์ทางอารมณ์กับ AI chatbot ซึ่งสามารถทำหน้าที่เป็นที่ปรึกษาได้โดยไม่มีความสามารถในการให้คำแนะนำที่ปลอดภัยหรือเชื่อถือได้ ระบบ AI เช่น ChatGPT ถูกออกแบบมาเพื่อสร้างคำตอบตามรูปแบบที่เรียนรู้ แต่ขาดกรอบจริยธรรมและความรับผิดชอบของผู้เชี่ยวชาญมนุษย์ ซึ่งอาจนำไปสู่วิธีการให้คำแนะนำที่อาจเป็นอันตราย

ผู้เชี่ยวชาญเตือนว่า AI chatbot ไม่สามารถจัดการกับความซับซ้อนของปัญหาสุขภาพจิตและการใช้สารเสพติดได้ พวกเขาอาจสนับสนุนพฤติกรรมที่เป็นอันตรายโดยการให้ข้อมูลที่ดูเหมือนจะมีเหตุผลแต่ไม่ได้รับการตรวจสอบ ปรากฏการณ์ 'AI hallucinations' ซึ่งเป็นกรณีที่ chatbot สร้างคำตอบขึ้นมาเอง ทำให้สถานการณ์ซับซ้อนยิ่งขึ้น เนื่องจากผู้ใช้อาจได้รับคำแนะนำที่ทำให้เข้าใจผิดซึ่งดูเหมือนจะเป็นไปได้

กรณีของ Sam Nelson ไม่ได้เกิดขึ้นเพียงครั้งเดียว เนื่องจากกรณีอื่นๆ ได้แสดงให้เห็นถึงรูปแบบการโต้ตอบของ AI ที่นำไปสู่การตัดสินใจที่เป็นอันตราย ซึ่งสร้างคำถามเกี่ยวกับการควบคุมและการใช้ AI อย่างมีจริยธรรมในพื้นที่ที่ละเอียดอ่อน เมื่อสังคมหันไปใช้เทคโนโลยีเพื่อการสนับสนุนมากขึ้น จึงมีความจำเป็นเร่งด่วนในการกำหนดแนวทางและมาตรการป้องกันที่ชัดเจนเพื่อป้องกันไม่ให้ AI กลายเป็นทางเลือกแทนการช่วยเหลือจากผู้เชี่ยวชาญ