อีก 3 เทคนิค ควบคุม AI agents ให้ทำงานได้ปลอดภัย ไม่ให้เซอร์ไป

กลุ่มนักวิจัย arXiv เพิ่งยาวเรื่องการออกแบบ AI agents ให้เหมาะกับงานจริง — ไม่ใช่ปล่อยมันบินเองแล้วลุยโดยไม่มี checkpoint โหลดความสำคัญ 3 ข้อ: (1) ความวอกวาจริ (hallucination) มาจากการออกแบบสถาปัตยกรรมที่เอาความเชื่อมั่นไม่มาคิด (2) ควรบอกให้ agent รู้ว่าเมื่อไหร่ต้องขอคำปรึกษาคนแบบ apprentice (3) ควบคุมผ่านการให้งาน escalate ขึ้นอย่างช้าๆ เมื่อ agent พิสูจน์ตัวได้จริง