ارسال دیدگاه
امروز: شنبه , ۲۰ بهمن , ۱۴۰۳
X
داریو آمودی، مدیرعامل Anthropic ، نسبت به شرکت چینی دیپ‌سیک، که با مدل R1 خود توجه سیلیکون ولی را به خود جلب کرده است، ابراز نگرانی کرده است. اما نگرانی او فراتر از مسائل متداول مانند احتمال ارسال داده‌های کاربران به چین است.
به‌گزارش تکراتو به نقل از techcrunch، در مصاحبه‌ای با پادکست ChinaTalk، آمودی اعلام کرد که دیپ‌سیک در یک آزمایش ایمنی که توسط Anthropic انجام شده بود، اطلاعات حساسی درباره سلاح‌های بیولوژیکی تولید کرده است.
واکنش مدیرعامل Anthropic نسبت به آزمایش ایمنی سلاح‌های بیولوژیکی مدل دیپ‌سیک
او گفت: «عملکرد دیپ‌سیک در این آزمایش، بدترین عملکردی بود که تاکنون در میان تمام مدل‌هایی که بررسی کرده‌ایم دیده‌ایم. این مدل هیچ‌گونه محدودیتی در تولید این اطلاعات نداشت.»
آمودی توضیح داد که این آزمایش بخشی از ارزیابی‌های امنیتی مداومی است که Anthropic روی مدل‌های هوش مصنوعی مختلف انجام می‌دهد تا میزان خطرات بالقوه آنها را برای امنیت ملی بررسی کند. تیم او بررسی می‌کند که آیا مدل‌ها می‌توانند اطلاعاتی درباره سلاح‌های بیولوژیکی تولید کنند که به راحتی در گوگل یا کتاب‌های درسی یافت نمی‌شود. Anthropic خود را شرکتی می‌داند که توسعه مدل‌های هوش مصنوعی را با اولویت امنیت انجام می‌دهد.
مدیرعامل Anthropic تاکید کرد که مدل‌های دیپ‌سیک در حال حاضر مستقیما خطرناک نیستند، اما ممکن است در آینده به چنین سطحی برسند. او با تمجید از مهندسان دیپ‌سیک، از آنها خواست تا ملاحظات ایمنی را جدی‌تر بگیرند.
علاوه بر این، آمودی همواره از اعمال محدودیت‌های سختگیرانه‌تر بر صادرات تراشه‌های پیشرفته به چین حمایت کرده است، چرا که معتقد است این تراشه‌ها می‌توانند برتری نظامی چین را تقویت کنند.
او در مصاحبه خود مشخص نکرد که کدام مدل دیپ‌سیک تحت آزمایش قرار گرفته یا جزئیات فنی بیشتری درباره این آزمایش ارائه نداد. شرکت دیپ‌سیک و Anthropic نیز به درخواست TechCrunch برای اظهار نظر پاسخی ندادند.
نگرانی‌ها درباره ایمنی دیپ‌سیک به همین جا ختم نمی‌شود. هفته گذشته، محققان امنیتی سیسکو اعلام کردند که مدل R1 دیپ‌سیک نتوانسته است هیچ‌یک از درخواست‌های مخرب را مسدود کند و نرخ موفقیت در دور زدن محدودیت‌های ایمنی آن ۱۰۰ درصد بوده است.
سیسکو به طور خاص به مسئله سلاح‌های بیولوژیکی اشاره نکرد، اما اعلام کرد که دیپ‌سیک توانسته است اطلاعات مخربی درباره جرایم سایبری و سایر فعالیت‌های غیرقانونی تولید کند. با این حال، شایان ذکر است که مدل Llama-3.1-405B شرکت متا و GPT-4o شرکت OpenAI نیز در آزمایش‌های مشابه نرخ شکست بالایی به ترتیب ۹۶ و ۸۶ درصد داشتند.
با وجود این نگرانی‌ها، هنوز مشخص نیست که آیا این مسائل تأثیر قابل‌توجهی بر رشد سریع دیپ‌سیک خواهد داشت یا خیر. شرکت‌هایی مانند AWS و مایکروسافت از یکپارچه‌سازی مدل R1 در پلتفرم‌های ابری خود خبر داده‌اند، که از قضا، آمازون در حال حاضر بزرگ‌ترین سرمایه‌گذار Anthropic است.
در مقابل، تعداد کشورها، شرکت‌ها و نهادهای دولتی‌ای که دیپ‌سیک را ممنوع کرده‌اند، به‌ویژه سازمان‌هایی مانند نیروی دریایی آمریکا و پنتاگون، در حال افزایش است.
با گذشت زمان مشخص خواهد شد که آیا این محدودیت‌ها تأثیری بر مسیر رشد دیپ‌سیک خواهند گذاشت یا این شرکت همچنان به رشد خود ادامه خواهد داد. با این حال، آمودی معتقد است که دیپ‌سیک اکنون در سطح برترین شرکت‌های هوش مصنوعی آمریکا قرار دارد.
او در ChinaTalk گفت: «موضوع جدید اینجاست که حالا یک رقیب تازه وارد میدان شده است. در بین شرکت‌های بزرگی که توانایی آموزش مدل‌های هوش مصنوعی را دارند—مانند Anthropic، OpenAI، گوگل و شاید متا و xAI—حالا دیپ‌سیک نیز به این جمع اضافه شده است.»
اخبار تکنولوژی
طراحی و اجرا :
وین تم
هر گونه کپی برداری از طرح قالب یا مطالب پیگرد قانونی خواهد داشت ، کلیه حقوق این وب سایت متعلق به وب سایت تک فان است
دیدگاهتان را بنویسید