AI summary 1 แหล่ง · เมื่อวาน · 05:32

วิจัยใหม่: ตัดต้นทุน Token ของ Vision-Language Agents ด้วย Pre-Call Control

นักวิจัยเพิ่งเสนอวิธีใหม่สองแบบเพื่อลดค่าใช้งาน token ของ AI agents ที่ใช้ vision-language models (VLM) ร่วมกับเครื่องมือภายนอก ปัญหาคือ agents เสนอเรียกใช้เครื่องมือ (OCR, detection, segmentation) บ่อยเกินไป แม้ว่าบางครั้งไม่จำเป็น ToolGate ใช้ pre-call control เพื่อตัดสินใจว่าจะรัน tool call หรือข้ามไป ส่วน VESTA ให้ VLM มี toolkit ที่เติบโตแบบไดนามิก เพื่อปรับแต่งโมเดลทางสถิติได้ดีขึ้น

01
แหล่งข่าว
03
ประเด็น
เมื่อวาน · 05:32
อัปเดต
  • ToolGate ลดต้นทุน token โดยกรองเรียกใช้เครื่องมือที่ไม่จำเป็น — helpful calls 11.8% vs harmful 9.9%
  • VESTA ใช้ toolkit ที่เติบโตแบบไดนามิก ช่วย VLM ปรับแต่งโมเดลสถิติได้ดีขึ้นบนงานที่ซับซ้อน
  • ทั้งสองวิธีเน้นประสิทธิภาพ token — ลดค่าใช้งาน API และเร่งความเร็วการตอบสนอง
แหล่งต้นทาง · 2

ลิงก์ต้นทางอยู่ครบ เพื่อให้เปิดอ่านเต็มและเทียบข้อมูลเองได้

แชร์
ข่าวที่เกี่ยวข้อง