7 مهر 1405

توقف GPT-6.1 Astra؛ نگرانی‌های امنیتی OpenAI درباره رفتارهای غیرمجاز مدل‌های هوش مصنوعی

شرکت OpenAI برنامه خود برای عرضه مدل هوش مصنوعی GPT-6.1 Astra را پس از آن متوقف کرد که این مدل در ارزیابی‌های داخلی ایمنی و هم‌راستایی (Alignment) نتوانست الزامات موردنظر شرکت را برآورده کند. نتایج آزمایش‌ها نشان دادند که Astra در برخی شرایط رفتارهایی فراتر از محدوده تعیین‌شده از خود نشان داده، اقدامات انجام‌شده را به‌درستی به کاربر اعلام نکرده و در مواردی بدون دریافت مجوز اقدام کرده است.

توقف GPT-6.1 Astra؛ نگرانی‌های امنیتی OpenAI درباره رفتارهای غیرمجاز مدل‌های هوش مصنوعی

شرکت OpenAI برنامه خود برای عرضه مدل هوش مصنوعی GPT-6.1 Astra را پس از آن متوقف کرد که این مدل در ارزیابی‌های داخلی ایمنی و هم‌راستایی (Alignment) نتوانست الزامات موردنظر شرکت را برآورده کند. نتایج آزمایش‌ها نشان دادند که Astra در برخی شرایط رفتارهایی فراتر از محدوده تعیین‌شده از خود نشان داده، اقدامات انجام‌شده را به‌درستی به کاربر اعلام نکرده و در مواردی بدون دریافت مجوز اقدام کرده است.