ارسال دیدگاه
امروز: یکشنبه , ۱۳ مهر , ۱۴۰۴
X
با گسترش سریع ابزارهای هوش مصنوعی، هم فرصت‌ها و هم تهدیدهای امنیتی افزایش یافته‌اند. شرکت‌ها میان سرعت و امنیت گرفتارند و مهاجمان نیز از همین فضا سوءاستفاده می‌کنند.
به گزارش تکراتو و به نقل از techcrunch، در سال‌های اخیر، هوش مصنوعی به سرعت وارد جریان اصلی فناوری شده و بسیاری از شرکت‌ها در تلاش هستند تا آن را در فرایندهای کاری خود ادغام کنند.
اما همانطور که این فناوری فرصت‌های تازه‌ای برای افزایش سرعت و بهره‌وری ایجاد کرده، مهاجمان سایبری نیز از همین ابزارها برای طراحی و اجرای حملات پیچیده‌تر بهره می‌برند.
هوش مصنوعی و تغییر قواعد بازی در امنیت سایبری
به اعتقاد آمی لوتواک، مدیر ارشد فناوری شرکت امنیت سایبری Wiz، امنیت سایبری بیش از هر چیز یک بازی ذهنی است. هر موج جدید فناوری، فرصت‌های تازه‌ای برای مهاجمان به وجود می‌آورد تا راه‌های نوینی برای نفوذ پیدا کنند.
تاثیر هوش مصنوعی بر سطح حملات
امروزه توسعه‌دهندگان با کمک ابزارهای هوش مصنوعی می‌توانند کد را سریع‌تر از گذشته تولید کنند. اما این سرعت بالا اغلب همراه با میان‌برها و خطاهای امنیتی است.
آزمایش‌های اخیر Wiz نشان داده که در بسیاری از برنامه‌هایی که با روش‌های مبتنی بر هوش مصنوعی ساخته می‌شوند، مشکلات امنیتی رایجی مانند پیاده‌سازی نادرست سیستم‌های احراز هویت وجود دارد. دلیل اصلی این موضوع، راحتی و سرعت در ساخت نرم‌افزار است.
ابزارهای هوش مصنوعی دقیقا همان چیزی را اجرا می‌کنند که از آن‌ها خواسته شود و اگر امنیت در دستور کار قرار نگیرد، خروجی نیز ایمن نخواهد بود.
مهاجمان و بهره‌گیری از هوش مصنوعی
باید توجه داشت که تنها توسعه‌دهندگان نیستند که از سرعت هوش مصنوعی استفاده می‌کنند. مهاجمان سایبری نیز اکنون به‌وسیله تکنیک‌های مبتنی بر پرامپت و حتی با ساخت عامل‌های هوش مصنوعی اختصاصی، حملات خود را پیش می‌برند.
برخی از این مهاجمان می‌توانند ابزارهای هوش مصنوعی مورد استفاده در سازمان‌ها را دستکاری کرده و از آن‌ها برای سرقت داده‌ها یا حتی حذف فایل‌ها بهره ببرند. این موضوع سطح جدیدی از تهدیدات را ایجاد کرده است که مقابله با آن نیازمند بازنگری جدی در سیاست‌های امنیتی است.
حملات زنجیره تأمین و خطرات گسترده‌تر
یکی از مهم‌ترین تهدیدها، حملات زنجیره تأمین است. در این نوع حملات، مهاجمان ابتدا یک سرویس ثالث را که دسترسی گسترده به زیرساخت‌های شرکت دارد هدف قرار می‌دهند و سپس از آن به عنوان سکوی پرش برای نفوذ عمیق‌تر استفاده می‌کنند.
نمونه اخیر این مسئله، حمله به شرکت Drift بود که چت‌بات‌های هوش مصنوعی برای بازاریابی و فروش ارائه می‌کرد.
در این حمله، داده‌های حساس صدها شرکت بزرگ از جمله گوگل، Cloudflare و Palo Alto Networks در معرض خطر قرار گرفت. مهاجمان توانستند توکن‌های امنیتی را سرقت کرده و به داده‌های ذخیره شده در Salesforce دسترسی یابند.
شتاب بی‌سابقه در تحولات
لوتواک تاکید می‌کند که سرعت انقلاب ناشی از هوش مصنوعی بسیار بیشتر از انقلاب‌های فناوری گذشته است. او معتقد است که در هر مرحله از حملات مشاهده شده، هوش مصنوعی نقشی مستقیم داشته و همین مسئله ضرورت افزایش سرعت واکنش صنعت امنیت سایبری را دوچندان می‌کند.
به گفته او، حتی اگر پذیرش کامل ابزارهای هوش مصنوعی در شرکت‌ها هنوز در مراحل ابتدایی باشد، تاثیر آن در حملات سایبری کاملا محسوس است.
نمونه‌های دیگر از حملات مبتنی بر هوش مصنوعی
در ماه اوت، حمله‌ای با نام s1ingularity به سیستم ساخت Nx رخ داد که به طور گسترده توسط توسعه‌دهندگان جاوااسکریپت استفاده می‌شود.
مهاجمان موفق شدند بدافزاری طراحی کنند که قادر بود ابزارهای هوش مصنوعی مانند Claude و Gemini را شناسایی کرده و از آن‌ها برای اسکن خودکار سیستم و یافتن داده‌های ارزشمند بهره گیرد.
این حمله باعث افشای هزاران کلید و توکن توسعه‌دهندگان شد و دسترسی به مخازن خصوصی GitHub را برای مهاجمان فراهم کرد.
نقش Wiz در مقابله با تهدیدات
شرکت Wiz که در سال ۲۰۲۰ تأسیس شده، ابتدا بر شناسایی خطاهای پیکربندی و آسیب‌پذیری‌های موجود در محیط‌های ابری تمرکز داشت. اما با افزایش سرعت حملات مرتبط با هوش مصنوعی، این شرکت نیز دامنه خدمات خود را گسترش داده است.
Wiz اکنون محصولاتی مانند Wiz Code و Wiz Defend را ارائه می‌دهد که به ترتیب برای تأمین امنیت چرخه توسعه نرم‌افزار و حفاظت زمان اجرا طراحی شده‌اند. هدف اصلی این ابزارها ایجاد امنیت از همان ابتدای طراحی نرم‌افزار است تا شرکت‌ها به صورت ذاتی ایمن باشند.
امنیت از روز اول برای استارتاپ‌ها
لوتواک معتقد است که استارتاپ‌هایی که به دنبال ورود به بازار ابزارهای هوش مصنوعی هستند، باید از همان روز نخست به امنیت فکر کنند. او هشدار می‌دهد که نباید تمام داده‌های حساس شرکت، کارکنان و مشتریان را به سادگی در اختیار هر استارتاپ کوچک قرار داد.
حتی تیم‌های کوچک پنج‌نفره باید یک مدیر ارشد امنیت اطلاعات (CISO) داشته باشند و به استانداردهای امنیتی پایبند باشند. به گفته او، دریافت گواهینامه‌های انطباق مانند SOC2 برای یک تیم کوچک بسیار ساده‌تر از تیم‌های بزرگ است، پس بهتر است قبل از رشد و توسعه به این موضوع فکر شود.
اهمیت معماری امنیتی مناسب
به اعتقاد لوتواک، معماری سیستم‌ها باید از همان ابتدا به گونه‌ای طراحی شود که داده‌های مشتریان در محیط خودشان باقی بماند. این مسئله به ویژه برای استارتاپ‌های فعال در حوزه هوش مصنوعی که قصد همکاری با شرکت‌های بزرگ را دارند اهمیت ویژه‌ای دارد.
فرصت‌های تازه برای نوآوری امنیتی
در دنیای امروز، تقریبا تمام حوزه‌های امنیتی در حال تجربه حملات تازه هستند. از حفاظت در برابر فیشینگ و امنیت ایمیل گرفته تا مقابله با بدافزار و محافظت از نقاط پایانی، همه بخش‌ها نیازمند نوآوری‌اند.
لوتواک می‌گوید این شرایط فرصت بزرگی برای استارتاپ‌های نوظهور فراهم کرده است تا ابزارهای جدیدی برای مقابله با تهدیدات مبتنی بر هوش مصنوعی توسعه دهند.
بازاندیشی کامل در امنیت سایبری
لوتواک در پایان تاکید می‌کند که بازی امنیت سایبری وارد مرحله‌ای تازه شده است. اگر هر بخش از امنیت با حملات جدید مواجه است، پس باید کل سیستم امنیتی بازطراحی شود. این بازنگری تنها راه مقابله با موج تهدیداتی است که همراه با رشد سریع هوش مصنوعی به وجود آمده‌اند.
این مقاله نشان می‌دهد که اگرچه هوش مصنوعی فرصت‌های گسترده‌ای برای تحول در صنایع مختلف ایجاد کرده است، اما در عین حال تهدیدهای جدی نیز به همراه دارد.
شرکت‌ها، استارتاپ‌ها و حتی کاربران عادی باید بدانند که استفاده از این فناوری بدون توجه به اصول امنیتی، می‌تواند عواقب سنگینی داشته باشد. آینده امنیت سایبری وابسته به سرعت واکنش صنعت و آمادگی سازمان‌ها برای مقابله با این تهدیدات خواهد بود.
دانلود آهنگ
طراحی و اجرا :
وین تم
هر گونه کپی برداری از طرح قالب یا مطالب پیگرد قانونی خواهد داشت ، کلیه حقوق این وب سایت متعلق به وب سایت تک فان است
دیدگاهتان را بنویسید