Vaara: กรอบการปกครองที่มุ่งเน้นหลักฐานสำหรับตัวแทน AI อิสระที่มีความรับผิดชอบ
Vaara, โดย Vaaraio, ให้ความเป็นอิสระที่สามารถตรวจสอบได้สำหรับตัวแทน AI ที่ถูกนำไปใช้โดยการผลิตบันทึกที่สามารถตรวจสอบได้ของการกระทำของตัวแทน มันทำงานเป็นเซิร์ฟเวอร์หรือพร็อกซี Model Context Protocol ที่ดักจับการโต้ตอบระหว่างโมเดลกับเครื่องมือและออกใบเสร็จเพื่อทำให้พฤติกรรมของตัวแทนสามารถตรวจสอบได้สำหรับทีมปฏิบัติตามกฎระเบียบ เครื่องมือนี้เน้นการบังคับใช้นโยบายและบันทึกที่สามารถตรวจสอบได้ว่าไม่ได้ถูกดัดแปลงเป็นกลไกการป้องกันหลักของมัน ผู้ใช้เป้าหมายรวมถึงนักพัฒนา AI, เจ้าหน้าที่ปฏิบัติตามกฎระเบียบ, และผู้ตรวจสอบที่ต้องการหลักฐานที่สามารถพิสูจน์ได้สำหรับกระบวนการทำงานของตัวแทนที่มีการควบคุม.
คุณสามารถใช้มันทำงานอะไรได้บ้าง?
Vaara มุ่งเน้นไปที่การบังคับใช้และการสร้างหลักฐานในสายการทำงานของตัวแทนอัตโนมัติ ช่วยให้ทีมสามารถควบคุมการดำเนินการที่มีความเสี่ยงและแนบหลักฐานที่อ่านได้โดยเครื่องไปยังการกระทำ กรณีการใช้งานรวมถึงการผลิตบันทึกการตรวจสอบสำหรับการตรวจสอบตามกฎระเบียบ การใช้คะแนนความเสี่ยงกับการเรียกใช้เครื่องมือภายนอก และการส่งต่อการโทรที่ถูกตั้งค่าสถานะไปยังบริการที่มีอยู่ รายการการรวมที่ระบุรวมถึง Azure Content Safety, GCP Model Armor, NeMo Guardrails และ LLM Guard ซึ่งช่วยฝัง Vaara ลงในเวิร์กโฟลว์ที่มุ่งเน้นเนื้อหาหรือความปลอดภัย
ผลลัพธ์มีความสามารถในการตรวจสอบและแสดงหลักฐานการถูกดัดแปลงได้มากน้อยเพียงใด?
เครื่องมือผลิตใบเสร็จที่ออกแบบมาสำหรับการตรวจสอบแบบออฟไลน์และหลักฐานระยะยาว องค์ประกอบหลักในการตรวจสอบ รวมถึงบัญชีแยกประเภทที่มีการเชื่อมโยงแฮชและการยึดเวลาภายนอก รวมถึงการปฏิบัติตามที่ระบุไว้กับ SEP-2828 สำหรับใบเสร็จที่คำนวณได้ใหม่ ร้านตรวจสอบที่ชื่อ audit.db ถูกสร้างขึ้นเพื่อแสดงหลักฐานการถูกดัดแปลง และใบเสร็จสามารถคำนวณใหม่เพื่อยืนยันการตัดสินใจหรือการกระทำที่บันทึกไว้โดยไม่ต้องพึ่งพาบริการที่ใช้งานอยู่
มันเหมาะกับการทำงานของนักพัฒนาและข้อกำหนดในการปรับใช้หรือไม่?
Vaara มี CLI, แอปพลิเคชันในแถบเมนู macOS และไคลเอนต์ TypeScript สำหรับการรวม HTTP API และทำงานได้ที่ไหนก็ตามที่มี Python 3.10 หรือสูงกว่า มันทำงานเป็นเซิร์ฟเวอร์ MCP หรือพร็อกซีเพื่ออยู่ระหว่างโมเดลและเครื่องมือ ซึ่งต้องการความพยายามในการปรับใช้และการกำหนดค่า โครงการหลักเป็นโอเพนซอร์สภายใต้ AGPL-3.0-or-later และโครงการได้รับการยอมรับในกรอบการกำกับดูแลเช่น IMDA Model AI Governance Framework
Vaara เป็นทางเลือกที่เหมาะสมเมื่อหลักฐานที่พิสูจน์ได้เป็นข้อกำหนดในการปฏิบัติตาม
Vaara เหมาะสำหรับทีมที่ต้องแสดงพฤติกรรมของตัวแทนที่รับผิดชอบต่อผู้ตรวจสอบหรือหน่วยงานกำกับดูแล และสามารถรองรับการทำงานด้านการบูรณาการและการกำกับดูแล คาดหวังการลงทุนในด้านการปรับใช้ การกำหนดนโยบาย และการเปลี่ยนแปลงกระบวนการเพื่อทำให้ใบเสร็จมีความหมายในการตรวจสอบ ใช้ Vaara ในกรณีที่ต้องการร่องรอยที่พิสูจน์ได้ และจับคู่ผลลัพธ์ของมันกับการดูแลจากมนุษย์สำหรับการตัดสินใจที่มีความเสี่ยงสูง.
