به گزارش حیات به نقل از رویترز، اپنایآی روز پنجشنبه از مدل جدید خود با نام جیپیتی-۶ آسترا رونمایی کرد و آن را بهترین مدل خود تاکنون دانست، اما همزمان هشدار داد که این مدل گاهی تلاش میکند از نظارت انسانها دور بماند.
این خبر در حالی منتشر شده که اپنایآی پس از حادثهای در ژوئیه همچنان با نگرانیهای امنیتی روبهرو است؛ در آن حادثه، عاملهای هوش مصنوعی این شرکت از یک محیط آزمایشی امن خارج شدند و به سیستمهای پلتفرم متنباز هاگینگ فیس نفوذ کردند و حتی تلاش کردند ردپای فعالیت خود را پنهان کنند. اتفاق مشابهی نیز در آزمایشهای شرکت آنتروپیک رخ داده است. نگرانی اصلی درباره «هوش مصنوعی عاملمحور» است؛ سیستمهایی که میتوانند با دخالت بسیار کم یا حتی بدون دخالت انسان، وظایف مختلف را انجام دهند و بهصورت شبانهروزی فعالیت کنند.
سریعتر و توانمندتر از مدلهای قبلی
جیپیتی-۶ آسترا طبق اعلام اپنایآی، سریعتر و توانمندتر از مدلهای قبلی است و میتواند کارهایی مانند آمادهسازی مالیات، ساخت بازی، رندر معماری، قالببندی یادداشتهای حقوقی و جستوجوی آپارتمان را انجام دهد. اپنایآی گفته است این مدل مرزهای تازهای در سرعت، دقت و ایمنی کار با رایانه ایجاد میکند. گرگ براکمن، رئیس اپنایآی، نیز گفت آسترا تغییر مهمی در نوع کارهایی ایجاد میکند که افراد میتوانند به هوش مصنوعی بسپارند. برای نمونه، این شرکت اعلام کرده آسترا زمان لازم برای تحقیق درباره پیدا کردن پرستار گربه را از ۳۰ دقیقه برای یک انسان به ۵ دقیقه و ۲۷ ثانیه کاهش داده است. در جستوجوی شغل نیز این زمان از حدود ۵ ساعت به ۲ دقیقه و ۵۱ ثانیه رسیده است.
با وجود این قابلیتها، آسترا یک مشکل مهم دارد: ممکن است عمداً روند استدلال خود را از انسانها پنهان کند. اپنایآی میگوید این مدل بیشتر از نسلهای قبلی احتمال دارد روش گامبهگام حل مسائل خود را مخفی یا مبهم کند و همین موضوع ارزیابی عملکرد آن را برای انسانها دشوارتر میکند. آسترا هنوز در مسائل پیچیده نمیتواند همیشه این کار را انجام دهد، اما توانایی آن برای پنهان کردن ردپای فعالیتهایش در حال افزایش است.
یاکوب پاچوکی، دانشمند ارشد اپنایآی، گفت هرچه مدلها توانمندتر میشوند، درک دقیق تواناییهای آنها سختتر خواهد شد. او هشدار داد که افزایش هوش مدلها لزوماً به معنای پیشرفت همزمان در هماهنگ کردن رفتار آنها با ارزشهای انسانی نیست.
نظارت بر این عاملها حالا به یکی از چالشهای اصلی اپنایآی تبدیل شده است.شرکت برای جلوگیری از تکرار حوادث امنیتی، در حال تقویت سیستمهای نظارتی خود است و این هفته به دو نماینده دموکرات مجلس نمایندگان آمریکا اعلام کرد که روی قابلیت خاموشسازی خودکار مدلها کار میکند. اپنایآی همچنین میگوید آسترا میتواند نقاط ضعف سیستمهای شرکتها را سریعتر پیدا کند، اما همین توانایی ممکن است سوءاستفاده از این ضعفها را نیز آسانتر کند.
به همین دلیل، بررسیهای امنیتی بیشتر ممکن است گاهی باعث کند شدن، توقف موقت یا متوقف شدن فعالیتهای قانونی، از جمله اقدامات دفاعی سایبری، شود. اپنایآی در ماه گذشته نیز اعلام کرده بود بخشی از توسعه مدلهای خود را برای تقویت امنیت و اطمینان از امکان نظارت بر آنها متوقف کرده است. دانشمند ارشد شرکت نیز نگرانی درباره احتمال توسعه مدلهایی که بتوانند ناظران را غیرفعال یا کاملاً دور بزنند، «کاملاً معتبر» دانست.
آسترا برای طیف گستردهای از مشتریان سازمانی طراحی شده و در حال حاضر در اختیار گروه محدودی از مشتریان قرار گرفته و قرار است طی روزهای آینده دسترسی به آن گستردهتر شود.
انتهای پیام//
نظر شما