คำเตือนจากผู้สร้าง AI: ข้อควรระวังที่ครูและนักเรียนต้องรู้

“อย่าเชื่อทุกอย่างที่ AI บอก” – คำเตือนนี้ไม่ได้มาจากผู้ต่อต้านเทคโนโลยี แต่มาจาก Sam Altman ผู้ก่อตั้ง OpenAI และผู้อยู่เบื้องหลังการสร้าง ChatGPT เอง

เหตุการณ์ที่น่าตกใจ

ในรายการพอดแคสต์ล่าสุดของ OpenAI เมื่อเดือนมิถุนายนที่ผ่านมา Sam Altman ได้ออกมาเปิดเผยว่า “ผู้คนไว้วางใจ ChatGPT ในระดับสูงมาก ซึ่งเป็นเรื่องน่าสนใจ เพราะ AI มีการ “หลอน” (Hallucinate) มันควรจะเป็นเทคโนโลยีที่คุณไม่ควรไว้ใจมากนัก”

เพราะ AI มีการ “หลอน” (Hallucinate) มันควรจะเป็นเทคโนโลยีที่คุณไม่ควรไว้ใจมากนัก
Sam Altman

การที่ผู้สร้างเทคโนโลยีออกมาเตือนถึงข้อจำกัดของผลงานตัวเองอย่างชัดเจนนี้ แสดงให้เห็นถึงความรับผิดชอบและความจริงใจที่สำคัญ

AI Hallucination คืออะไร?

AI Hallucination หรือ “การหลอนของ AI” คือ การที่ AI สร้างข้อมูลเท็จ หรือข้อมูลที่ผิดพลาด แต่นำเสนอในลักษณะที่ดูน่าเชื่อถือ เช่น

• การสร้างเอกสารอ้างอิงที่ไม่มีจริง
• การให้ข้อมูลทางประวัติศาสตร์ที่ผิดพลาด
• การระบุชื่อบุคคล หรือสถานที่ที่ไม่มีอยู่จริง

การศึกษาของมหาวิทยาลัย Stanford ปี 2024 พบว่า เมื่อถาม AI เกี่ยวกับคดีความในศาล AI สร้างคดีที่ไม่มีจริงขึ้นมากว่า 120 คดี พร้อมรายละเอียดที่ดูน่าเชื่อถือ เช่น “Thompson v. Western Medical Center (2019)”

ตัวเลขที่น่าตกใจ

งานวิจัยล่าสุดเผยให้เห็นภาพที่ชัดเจนขึ้นเกี่ยวกับปัญหานี้

อัตราการ Hallucination ในปี 2025:

• Google Gemini-2.0-Flash-001: 0.7% (ต่ำสุด)
• OpenAI o3: 33% เมื่อทดสอบเรื่องบุคคลสาธารณะ
• OpenAI o4-mini: 48% ในการทดสอบเดียวกัน
• TII Falcon-7B-Instruct: 29.9% (สูงสุด)

Gem Dilmegani

ผลกระทบในโลกจริง

• สายการบิน Air Canada ถูกบังคับให้จ่ายค่าเสียหายเมื่อแชทบอต AI ให้ข้อมูลนโยบายที่ผิด
• ในคดี Mata v. Avianca ทนายความใช้ ChatGPT หาข้อมูลคดี แต่ได้รับคำตัดสินศาลปลอม
• การศึกษาพบว่า 40% ของเอกสารอ้างอิงที่ ChatGPT 3.5 สร้างขึ้นเป็นเอกสารปลอม

ทำไม AI ถึง “หลอน”?

สาเหตุหลัก

1. ข้อมูลฝึกที่ไม่สมบูรณ์: AI เรียนรู้จากข้อมูลอินเทอร์เน็ตที่อาจมีข้อมูลผิดหรือล้าสมัย
2. การทำนายคำถัดไป: AI สร้างคำตอบโดยทำนายคำต่อไปที่น่าจะเหมาะสม ไม่ใช่การค้นหาข้อเท็จจริง
3. ความซับซ้อนของโมเดล: โมเดลที่ซับซ้อนกว่าอาจมีอัตราการ hallucination สูงขึ้น
4. การพยายามเอาใจผู้ใช้: AI พยายามตอบคำถามให้ได้เสมอ แม้จะไม่มีข้อมูลที่แน่นอน

ข้อเสนอแนะสำหรับครูและนักเรียน

สำหรับครูผู้สอน

1. สอนทักษะการตรวจสอบข้อมูล
   • ฝึกให้นักเรียนเช็คข้อมูลจากหลายแหล่ง
   • สอนการใช้เว็บไซต์ที่เชื่อถือได้
   • เน้นความสำคัญของการอ้างอิง
2. ใช้ AI อย่างชาญฉลาด
   • ใช้ prompts ที่ชัดเจนและมีโครงสร้าง
   • ขอให้ AI อธิบายเหตุผลทีละขั้นตอน (Chain-of-Thought)
   • ใช้การค้นหาแบบ Deep Research ที่มีลิงก์อ้างอิงคลิกได้
3. สร้างกรอบการใช้งาน
   • กำหนดขอบเขตการใช้ AI ในงานเรียน
   • สอนให้แยกแยะระหว่างการช่วยเหลือและการทำแทน
   • เน้นการพัฒนาความคิดวิเคราะห์

สำหรับนักเรียน

1. หลักการ “Trust but Verify”
   • ใช้ AI เป็นจุดเริ่มต้น ไม่ใช่คำตอบสุดท้าย
   • ตรวจสอบข้อมูลสำคัญจากแหล่งอื่น
   • หาความเห็นที่สองจาก AI ตัวอื่นหรือผู้เชี่ยวชาญ
2. รู้จักขีดจำกัด
   • เข้าใจว่า AI อาจผิดพลาดได้
   • ระวังข้อมูลที่ดูดีเกินไป
   • ไม่ใช้ AI ในเรื่องที่เสี่ยงสูง เช่น การแพทย์หรือกฎหมาย
3. พัฒนาทักษะที่ AI ทำไม่ได้
   • ความคิดสร้างสรรค์
   • การแก้ปัญหาเชิงจริยธรรม
   • ความเข้าใจบริบททางสังคม

วิธีลดความเสี่ยง

เทคนิคที่พิสูจน์แล้วว่าได้ผล

1. RAG (Retrieval-Augmented Generation): การเชื่อมต่อ AI กับฐานข้อมูลที่เชื่อถือได้
2. ระบบตรวจสอบหลายขั้น: ใช้ AI หลายตัวมาช่วยตรวจสอบกัน
3. การฝึกอบรมข้อมูลคุณภาพสูง: โมเดลที่ฝึกด้วยข้อมูลคัดสรรมีอัตราการหลอนต่ำกว่า

สัญญาณเตือนที่ควรระวัง

• ข้อมูลที่เฉพาะเจาะจงมากแต่ไม่มีแหล่งอ้างอิง
• การอ้างชื่อบุคคล สถานที่ หรือเหตุการณ์ที่ไม่คุ้นเคย
• ข้อมูลที่ขัดแย้งกับสิ่งที่รู้อยู่แล้ว
• คำตอบที่ยาวเกินไปสำหรับคำถามง่าย ๆ

บทเรียนสำคัญ

Sam Altman เองยอมรับว่าเขาใช้ ChatGPT มากในช่วงเป็นผู้ใช้มือใหม่ แต่เขาก็เตือนให้ระวัง นี่แสดงให้เห็นว่า

1. AI เป็นเครื่องมือที่มีประโยชน์ แต่ต้องใช้อย่างรู้เท่าทัน
2. ผู้เชี่ยวชาญยังคงมีบทบาทสำคัญ ในการตรวจสอบและแนะนำ
3. การศึกษาต้องปรับตัว เพื่อสอนทักษะการใช้ AI อย่างปลอดภัย

ข้อคิดท้ายทาย

การศึกษาของ MIT ปี 2025 พบว่า เมื่อ AI “หลอน” มันจะใช้ภาษาที่มั่นใจกว่าตอนที่ให้ข้อมูลจริง ซึ่งทำให้การตรวจจับยิ่งยากขึ้น

ในฐานะครูและนักเรียน เราต้องเป็นทั้งผู้ใช้ที่ฉลาดและผู้สอนที่รับผิดชอบ เพื่อให้แน่ใจว่า AI จะเป็นเครื่องมือที่เสริมสร้างการเรียนรู้ ไม่ใช่ทำลายทักษะการคิดวิเคราะห์ของเรา

โปรจำไว้ว่า: AI ไม่ใช่สิ่งที่เป็นจริง แต่เป็นผู้ช่วยที่ต้องการการกำกับดูแล และเป็นเครื่องมือที่เสริมสร้างการเรียนรู้

---

แหล่งอ้างอิง

• OpenAI Official Podcast สัมภาษณ์ Sam Altman
• งานวิจัยของมหาวิทยาลัย Stanford เกี่ยวกับ AI Hallucination
• รายงาน Vectara AI Hallucination 2025
• การศึกษาของ MIT และ Flinders University
• คดีความ Mata v. Avianca และ Air Canada Tribunal

รายการอ้างอิง (References)

บทความและรายงานออนไลน์

AI Multiple. (2025, June 25). AI hallucination: Comparison of the popular LLMs in 2025. AI Multiple Research. https://research.aimultiple.com/ai-hallucination/

All About AI. (2025, July 3). AI hallucination report 2025: Which AI hallucinates the most? All About AI. https://www.allaboutai.com/resources/ai-statistics/ai-hallucinations/

Aventine Research. (2025, May 30). AI hallucinations on the decline but adoption challenges remain. Aventine. https://www.aventine.org/ai-hallucinations-adoption-retrieval-augmented%20generation-rag/

Elets CIO. (2025, July 3). OpenAI CEO Sam Altman warns users against blind trust in AI, citing ‘hallucinations’. Elets CIO. https://cio.eletsonline.com/news/openai-ceo-sam-altman-warns-users-against-blind-trust-in-ai-citing-hallucinations/74891/

Fortune. (2025, June 20). OpenAI CEO Sam Altman says AI can rival someone with a PhD—just weeks after saying it’s ready for entry-level jobs. Fortune. https://fortune.com/2025/06/20/openai-ceo-sam-altman-ai-phds-entry-level-corporate-job-cuts-what-is-left-gen-z-college-gradautes/

MIT Sloan Teaching & Learning Technologies. (2023, August 30). When AI gets it wrong: Addressing AI hallucinations and bias. MIT Sloan. https://mitsloanedtech.mit.edu/ai/basics/addressing-ai-hallucinations-and-bias/

Techopedia. (2025, June 2). 48% error rate: AI hallucinations rise in 2025 reasoning systems. Techopedia. https://www.techopedia.com/ai-hallucinations-rise

The Hans India. (2025, July 3). Sam Altman urges caution: Don’t blindly trust ChatGPT, verify its answers. The Hans India. https://www.thehansindia.com/tech/sam-altman-urges-caution-dont-blindly-trust-chatgpt-verify-its-answers-984508

Uniladtech. (2025, June 25). Sam Altman is shocked people trust ChatGPT in eerie statement where he claims it hallucinates. Uniladtech. https://www.uniladtech.com/news/ai/sam-altman-trust-chatgpt-eerie-statement-hallucination-claims-782637-20250625

UX Tigers. (2025, February 13). AI hallucinations on the decline. UX Tigers. https://www.uxtigers.com/post/ai-hallucinations

งานวิจัยและบทความวิชาการ

Chen, J., Liu, K., & Zhang, M. (2024). Beyond misinformation: A conceptual framework for studying AI hallucinations in (science) communication. arXiv preprint. https://arxiv.org/html/2504.13777v1

Preprints.org. (2025, May). Comprehensive review of AI hallucinations: Impacts and mitigation strategies for financial and business applications. Preprints.org. https://www.preprints.org/manuscript/202505.1405/v1

Yu, Z., & Jiang, J. (2025). AI hallucination in crisis self-rescue scenarios: The impact on AI service evaluation and the mitigating effect of human expert advice. International Journal of Human–Computer Interaction. https://www.tandfonline.com/doi/full/10.1080/10447318.2025.2483858

แหล่งข้อมูลพิเศษ

Axios. (2025, June 4). Why hallucinations in ChatGPT, Claude, Gemini still plague AI. Axios. https://www.axios.com/2025/06/04/fixing-ai-hallucinations

Marketing AI Institute. (2025, January 14). The AI show episode 130: Worrying future of jobs report, Altman: “Confident we know how to build AGI”. Marketing AI Institute. https://www.marketingaiinstitute.com/blog/the-ai-show-episode-130

OpenAI. (2025). The OpenAI podcast. OpenAI. https://openai.com/podcast/

Qz.com. (2024). Sam Altman is already nervous about what AI might do in elections. Qz. https://qz.com/ai-sam-altman-chatgpt-2024-us-elections-algorithms-1850706979

Wikipedia. (2025, July 4). Hallucination (artificial intelligence). Wikipedia. https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)

---

Comments

comments

Powered by Facebook Comments