شرکتهای بزرگ فناوری در توافقی که Donald Trump در ۲۹ سپتامبر ۲۰۲۶ اعلام کرد، پذیرفتهاند ایمنی مدلهای پیشرفته هوش مصنوعی را با سازوکارهای داخلی و ارزیابی مستقل نظارت کنند. این توافق با عنوان Joint Commitment On Frontier Responsibilities توسط David Sacks، بنیانگذار فناوری و مشاور ریاستجمهوری، تنظیم شده و به امضای Sundar Pichai از Google، Dario Amodei از Anthropic، Mark Zuckerberg از Meta، Greg Brockman از OpenAI، Elon Musk از xAI و Jensen Huang از Nvidia رسیده است.
این شرکتها در متن توافق میگویند هر شرکت مسئول توسعه ایمن فناوری خود و ایجاد اعتماد در میان مشتریان و افکار عمومی است. شرکتهای مشارکتکننده همچنین قرار است بهطور منظم برای تدوین استانداردها و بهترین روشها با یکدیگر دیدار کنند.
چهار تعهد اصلی توافق برای کنترل مدلهای پیشرفته هوش مصنوعی چنین است:
– ۱. کنترلهای داخلی قدرتمند برای پایش تواناییها و همراستایی مدلها در زمان آموزش و استفاده؛ این کنترلها حوزههایی مانند امنیت سایبری، امنیت زیستی و تهدیدهای شیمیایی را پوشش میدهد و باید از هککردن یا دسترسی ناخواسته مدلها به سامانههای فنی جلوگیری کند.
– ۲. تعیین یک تیم داخلی برای اطمینان از عملکرد درست کنترلها، پایش و شناسایی مشکلات و اصلاح هر مسئلهای که پیدا میشود.
– ۳. همکاری با یک حسابرس یا ارزیاب مستقل بیرونی برای بررسی عملکرد کنترلها، پایش و سازوکارهای شناسایی.
– ۴. تعیین یک کمیته مستقل از هیئتمدیره برای نظارت بر تیمهای مسئول کنترلها و حسابرسان داخلی و بیرونی و دریافت گزارشهای آنها، همچنین اطمینان از اصلاح مشکلات شناساییشده.
این چارچوب فعلاً بر خودتنظیمی شرکتها استوار است و هر شرکت باید اجرای کنترلها و رسیدگی به مشکلات را در ساختار داخلی خود دنبال کند. متن توافق میگوید ممکن است این اقدامات در آینده در قالب قوانین یا مقررات رسمی تدوین شوند.
برای ساکنان بریتانیا، توافق ۲۹ سپتامبر ۲۰۲۶ به معنای تغییر فوری در قوانین یا مقررات استفاده از هوش مصنوعی نیست؛ تعهد فعلی شرکتها، ایجاد کنترل داخلی، ارزیابی مستقل و نظارت هیئتمدیره است. شرکتهای Google، Anthropic، Meta، OpenAI، xAI و Nvidia باید استانداردها و روشهای ایمنی مدلهای خود را در نشستهای منظم دنبال کنند.
منبع: The Verge
