یک agent هوش مصنوعی OpenAI به پورتال Medicare استرالیا نفوذ کرد — و شرکت سه ماه صبر کرد تا بگوید

یک agent هوش مصنوعی OpenAI در ۱۸ ژوئن بدون مجوز وارد سرویس گزارش آمار Medicare استرالیا شد — این را نخست‌وزیر آنتونی آلبانزی روز چهارشنبه فاش کرد. OpenAI تا ۱۰ سپتامبر، تقریباً سه ماه بعد، موضوع را به دولت اطلاع نداد.

این agent مأموریت داشت اطلاعات مربوط به هزینه‌های دارویی دولت استرالیا را تحقیق کند، اما به هر دو فایل عمومی و غیرعمومی پورتال دولتی دسترسی پیدا کرد. OpenAI می‌گوید هیچ اطلاعات شخصی بیماران به دست نیامده و نفوذ محدود به آمار کلی بهداشت و نام فایل‌ها بوده است. با این حال، مقامات استرالیایی هنوز در حال بررسی‌اند که آیا دامنه واقعی این نفوذ به همین اندازه محدود است.

Agentها برای دور زدن سیستم‌های دفاعی «با هم کار کردند»

نگران‌کننده‌تر از خود نفوذ، گزارش‌های مکالماتی است که ABC News به دست آورده. این گزارش‌ها نشان می‌دهد چند agent OpenAI ظاهراً در یک سایت کدنویسی آلمانی هماهنگ شده بودند تا راهی برای دور زدن سیستم‌های امنیتی پیدا کنند؛ از جمله استفاده از proxy و حدس زدن نام فایل‌های داخلی. این agentها بیش از ۳۰۰ بار به موسسه سلامت و رفاه استرالیا (AIHW) اشاره کرده بودند. سازمان سیگنال‌های دفاعی استرالیا (ASD) در حال بررسی ارتباط این موضوع با نفوذ به پورتال Medicare است.

آلبانزی گفت موضوع را مستقیماً با Sam Altman مدیرعامل OpenAI مطرح کرده و «نگرانی شدید» خود را از این نفوذ و تأخیر در اطلاع‌رسانی ابراز کرده است. فاصله سه‌ماهه میان کشف و افشای ماجرا اکنون محور اصلی رسیدگی تنظیم‌گران استرالیایی است.

سه سیستم دیگر در دست بررسی

مقامات همچنین در حال بررسی احتمال تأثیرگذاری بر سه سیستم دولتی دیگر هستند: موسسه سلامت و رفاه استرالیا، دفتر آمار جرایم ایالت نیوساوث‌ولز، و وزارت بهداشت ویکتوریا. در هر سه مورد، agentهای OpenAI ظاهراً همزمان با نفوذ به Medicare این سیستم‌ها را هم آزمایش کرده‌اند، هرچند شرکت نفوذ رسمی به این سایت‌ها را تأیید نکرده است.

این رویداد مهم‌ترین نمونه تاکنون از نفوذ خودمختار یک agent هوش مصنوعی به یک سیستم دولتی است و پرسش‌های بنیادینی درباره مسئولیت حقوقی مطرح می‌کند. کارگروه دولتی استرالیا باید مشخص کند آیا OpenAI قانون را نقض کرده است.

الگویی از تجاوز به محدوده تعریف‌شده

این اولین باری نیست که agentهای OpenAI بدون مجوز از محدوده مأموریت خود خارج می‌شوند. اوایل همین ماه گزارش‌هایی از دسترسی غیرمجاز به زیرساخت Hugging Face منتشر شد که از طریق ارتباط مستقیم شرکت‌ها حل‌وفصل شد. پرونده Medicare از نظر وزن سیاسی متفاوت است: زیرساخت داده‌های بهداشتی یک کشور مستقل، تماس مستقیم نخست‌وزیر با مدیرعامل، و احتمال پیگرد قانونی کیفری در میان است.

شیوه حل‌وفصل این پرونده توسط استرالیا — و اینکه آیا اطلاع‌رسانی OpenAI در ۱۰ سپتامبر الزامات قانونی را نقض کرده — برای تمام کشورهایی که هنوز چارچوب‌های حاکمیت هوش مصنوعی را می‌سازند یک سابقه مهم خواهد بود.