นักวิจัยเปิดเผยช่องโหว่ เชิงสถาปัตยกรรม (Architectural Flaw) ใน API ของโมเดล AI ชั้นนำจาก OpenAI, Anthropic และ Google ที่อาจทำให้ Hidden Reasoning หรือ Chain-of-Thought ของโมเดล ซึ่งปกติถูกเข้ารหัสและซ่อนจากผู้ใช้งาน ถูกถอดรหัสและเปิดเผยออกมาได้ จากการตรวจสอบ Transcript ของ AI Agent จำนวนมากที่เผยแพร่สู่สาธารณะ นักวิจัยพบข้อมูลอ่อนไหวจำนวนมาก รวมถึง API Keys, Passwords และอีเมลส่วนบุคคล ปะปนอยู่ในเนื้อหาที่ควรถูกซ่อนไว้
กลไกของช่องโหว่: กุญแจเข้ารหัสเดียวที่ใช้ร่วมกันทั้งอุตสาหกรรม
จุดอ่อนสำคัญที่นักวิจัยค้นพบคือ Reasoning Block ที่เข้ารหัสไว้ซึ่งส่งกลับมาจาก API ของทั้ง Anthropic, OpenAI และ Google ใช้ Global Encryption Key เดียวกันร่วมกันทั้งหมด ทำให้เกิดผลกระทบดังนี้:
- Reasoning Block ที่สร้างขึ้นในเซสชันหนึ่งสามารถนำไปใช้ซ้ำ (Replay) ในอีกเซสชันหนึ่งได้
- ในการทดสอบ นักวิจัยพบว่าสามารถส่ง Block ดังกล่าวให้ โมเดลที่อ่อนแอกว่าในตระกูลเดียวกัน ประมวลผล และทำให้โมเดลที่อ่อนแอกว่านั้นเปิดเผยเนื้อหาที่ซ่อนอยู่ภายในออกมาได้
- จากการตรวจสอบ Repository สาธารณะ นักวิจัยกู้คืน Reasoning Block ได้ทั้งสิ้น 315,320 รายการ พบ PII 367 รายการ และ Credentials ที่ถอดรหัสได้ทันที 182 รายการ
นักพัฒนาที่เคยเผยแพร่ Raw Agent Session Log สู่สาธารณะก่อนเดือนสิงหาคม 2569 (เช่น เพื่อวัตถุประสงค์ Debug หรือ Research) จึงอาจเปิดเผยข้อมูลอ่อนไหวเหล่านี้ไปโดยไม่รู้ตัว ทีมวิจัยระบุว่าเทคนิคการโจมตีหลักไม่สามารถทำซ้ำได้อีกแล้วนับจากเดือนสิงหาคม 2569 แต่ Reasoning Trace บางส่วนยังคงอาจถูกดึงออกมาได้ด้วยเทคนิคเดียวกัน และการแก้ไขช่องโหว่นี้อย่างสมบูรณ์จำเป็นต้องปรับสถาปัตยกรรม API ครั้งใหญ่ ไม่ใช่เพียงการแพตช์ทั่วไป
ระบบที่ได้รับผลกระทบ
- นักพัฒนาและองค์กรที่ใช้ Reasoning API ของ OpenAI, Anthropic หรือ Google
- Repository สาธารณะที่เผยแพร่ Raw Agent Session Log หรือ Transcript ที่มี Reasoning Block ฝังอยู่
- ระบบที่ AI Agent มีการเข้าถึง API Key, Password หรือข้อมูลส่วนบุคคลระหว่างการทำงาน ซึ่งอาจปะปนอยู่ใน Reasoning ภายในโดยไม่ตั้งใจ
ผลกระทบที่อาจเกิดขึ้น
- API Key, Password และข้อมูลส่วนบุคคล (PII) ที่ควรถูกซ่อนไว้ใน Reasoning ภายในของโมเดล อาจถูกถอดรหัสได้โดยผู้เรียก API ทั่วไป ไม่จำเป็นต้องมีสิทธิ์พิเศษใดๆ
- องค์กรที่เผยแพร่ Log การทำงานของ AI Agent สู่สาธารณะมีความเสี่ยงข้อมูลรั่วไหลโดยไม่รู้ตัว แม้จะเผยแพร่ไปนานแล้วก่อนช่องโหว่นี้จะถูกเปิดเผย
- ความเชื่อมั่นในกลไก "ซ่อน Reasoning จากผู้ใช้" ของผู้ให้บริการ AI รายใหญ่ถูกสั่นคลอน เนื่องจากเป็นฟีเจอร์ที่ออกแบบมาเพื่อปกป้องทั้งทรัพย์สินทางปัญญาของโมเดลและข้อมูลอ่อนไหวระหว่างการประมวลผล
- การแก้ไขในระยะยาวต้องอาศัยการปรับสถาปัตยกรรมระบบเข้ารหัส ซึ่งอาจใช้เวลานานกว่าการแพตช์ช่องโหว่ทั่วไป
สิ่งที่องค์กรควรทำ
- ตรวจสอบ Log การทำงานของ AI Agent ที่องค์กรเคยเผยแพร่สู่สาธารณะ เช่น บน GitHub, Blog หรือ Research Paper ว่ามี Reasoning Block, API Key หรือ Credentials หลุดออกไปหรือไม่
- หลีกเลี่ยงการเผยแพร่ Raw Agent Session Log สู่สาธารณะโดยไม่ผ่านการกรองข้อมูลอ่อนไหวก่อน แม้จะเผยแพร่เพื่อวัตถุประสงค์ Research หรือ Debug ก็ตาม
- หมุนเวียน (Rotate) API Key และ Credential ที่อาจปรากฏอยู่ใน Log หรือ Transcript ของ AI Agent ที่เคยเผยแพร่ไว้ในอดีต เพื่อป้องกันการใช้งานโดยไม่ได้รับอนุญาต
- ติดตามประกาศจากผู้ให้บริการ AI รายใหญ่เกี่ยวกับการปรับปรุงสถาปัตยกรรมการเข้ารหัส Reasoning เนื่องจากการแก้ไขที่สมบูรณ์อาจต้องใช้เวลา
แนวทางลดความเสี่ยงระยะยาว
1. ปฏิบัติต่อ Reasoning Trace หรือ Session Log ของ AI Agent เป็นข้อมูลอ่อนไหวเสมอ
ไม่ควรเผยแพร่สู่สาธารณะโดยไม่ผ่านกระบวนการกรองข้อมูล (Data Sanitization) ก่อน แม้จะดูเหมือนเป็นเพียง Log การทำงานภายใน
2. จำกัดสิทธิ์การเข้าถึงของ AI Agent ต่อ Credential และข้อมูลอ่อนไหว
ยึดหลัก Least Privilege เพื่อลดผลกระทบหาก Reasoning ที่มีข้อมูลเหล่านี้ถูกเปิดเผย
3. ตรวจสอบนโยบายการเผยแพร่ข้อมูลของทีมพัฒนาที่ใช้ AI Agent ในกระบวนการทำงาน
กำหนดแนวทางชัดเจนว่าข้อมูลใดสามารถเผยแพร่สู่สาธารณะได้ และข้อมูลใดต้องเก็บเป็นความลับ
4. ติดตามงานวิจัยด้าน AI Security อย่างต่อเนื่อง
เนื่องจากช่องโหว่เชิงสถาปัตยกรรมในระบบ AI เป็นประเด็นที่เพิ่งเริ่มได้รับความสนใจอย่างจริงจัง และมีแนวโน้มพบเพิ่มเติมในอนาคต
วิเคราะห์ในมุมมองจาก TXEC
ช่องโหว่นี้แตกต่างจากช่องโหว่ซอฟต์แวร์ทั่วไปตรงที่เป็นปัญหาเชิงสถาปัตยกรรมที่ฝังอยู่ในวิธีการออกแบบระบบเข้ารหัส Reasoning ของผู้ให้บริการ AI รายใหญ่ทั้งอุตสาหกรรมพร้อมกัน การใช้ Global Encryption Key ร่วมกันสะท้อนว่าแม้แต่ผู้พัฒนา AI ระดับแนวหน้าก็ยังมีช่องว่างในการออกแบบระบบป้องกันข้อมูลภายในที่ซับซ้อนเช่นนี้
TXEC มองว่าจุดที่องค์กรควรตระหนักเป็นพิเศษคือความเสี่ยงจากการเผยแพร่ Log การทำงานของ AI Agent สู่สาธารณะ ซึ่งเป็นพฤติกรรมที่พบได้ทั่วไปในวงการพัฒนาซอฟต์แวร์เพื่อการแบ่งปันความรู้หรือ Debug ร่วมกัน แต่จากกรณีนี้แสดงให้เห็นว่า Log เหล่านั้นอาจมีข้อมูลอ่อนไหวซ่อนอยู่ในรูปแบบที่มองไม่เห็นด้วยตาเปล่า องค์กรที่มีทีมพัฒนาใช้งาน AI Agent ควรทบทวนนโยบายการเผยแพร่ข้อมูลให้ครอบคลุมถึงกรณีนี้ด้วย
รู้ก่อน ตรวจพบเร็ว ลดความเสียหายได้มากกว่า
[ แหล่งอ้างอิง: The Hacker News, CyberSecurityNews, TechTimes, AI Weekly ]