دیپ فیک؛ برگ برنده هکرها در آینده - وبلاگ دلند چت

به گزارش وبلاگ دلند چت، ایجاد اختلال عمدی در سیستم های هوش مصنوعی نیز یکی از بزرگترین خطرات این فناوری به شمار می رود چرا که این اختلال می تواند بسته به توان فرد یا گروه ایجاد کننده این اختلال، دردسر ها و خسارات جدی ایجاد کند.

میترا جلیلی| هوش مصنوعی (AI) یکی از فناوری های نوظهور است که این روز ها با سرعتی بالا در حوزه های مختلف از بازی و سرگرمی گرفته تا آموزش، سلامت، روبات ها، امور مالی و بانکداری، کشاورزی، حمل و نقل و ترافیک و... به کار گرفته می شود.

هرچند هدف فعالان حوزه هوش مصنوعی، تنها رفاه مردم جهان و سرعت بخشیدن به فرایند اجرای پروژه های مختلف بوده است، اما قابلیت های عظیم این فناوری توجه مجرمان سایبری را نیز جلب کرده و با روش های گوناگون به دنبال سوء استفاده از هوش مصنوعی هستند که این موضوع نگرانی هایی را رقم زده است. اما بیشترین خطرات این فناوری پرکاربرد در سال های آینده کدام هستند؟

بررسی خطرات هوش مصنوعی با 4 شاخص

پس از ارائه گزارش دانشمندان یک دانشگاه تحقیقاتی واقع در لندن با نام University College London) UCL) و هشدار آن ها درباره خطرات بالقوه هوش مصنوعی در آینده، یک نشست دو روزه با حضور 31 متخصص حوزه هوش مصنوعی برگزار گشت تا مخاطرات این فناوری در 15 سال آینده مورد بحث و بررسی قرار بگیرد.

هرچند ابتدا قرار بود برخی از دانشجویان و علاقه مندان به این حوزه نیز در این نشست حضور داشته باشند، ولی به دلیل شیوع کرونا این موضوع عملی نشد و این نشست با جمعیتی کمتر از حد انتظار برپا شد. در مقابل، تعداد بیشتری از علاقه مندان پیروز شدند بحث و گفتگو های این نشست را در فضای مجازی و به صورت آنلاین مشاهده کنند.

در این نشست از اقشار دانشگاهی، بخش خصوصی، پلیس، دولت و آژانس های امنیتی دولتی حضور داشتند و شرکت کننده ها بر اساس چهار شاخص، نگرانی های خود از هوش مصنوعی در آینده را دسته بندی کردند. یکی از این شاخص ها میزان زیانی است که هوش مصنوعی می تواند ایجاد کند.

پتانسیل هوش مصنوعی برای سوء استفاده مجرمان و اینکه هوش مصنوعی چقدر می تواند انجام یک جرم را آسان تر کند از دیگر شاخص هایی بودند که در این نشست مورد بررسی قرار گرفت. یکی دیگر از شاخص ها هم این بود که توقف جرم اجرا شده با کمک هوش مصنوعی تا چه حد برای پلیس و... سخت خواهد بود.

آنچه همه این متخصصان متفق القول بر آن تأکید داشتند این بود که اگر از هوش مصنوعی استفاده درستی نشود می تواند به روش های گوناگون به جامعه آسیب برساند. به گفته این گروه، تهدیدات هوش مصنوعی از بی اعتبار کردن چهره های خاص سیاسی و معروف گرفته تا تأثیرگذاری بر افکار عمومی و اخاذی وجوه با جعل بستگان شخص در یک تماس ویدئویی و... را شامل می شود بنابراین باید برای مقابله با این خطرات آماده شویم.

شرکت کنندگان در این نشست، بیشتر مسائل را ناشی از توسعه و تکرار استفاده از هوش مصنوعی برای موارد خلاف می دانند. به عنوان مثال متیو کالدول یکی از شرکت کنندگان در این نشست گفت: در محیط آنلاین که دیتا یک ثروت به شمار می رود و اطلاعات، قدرت است مجرمان سایبری وسوسه می شوند تا از قابلیت های هوش مصنوعی که این روز ها بسیار مورد توجه قرار گرفته سوء استفاده کنند.

این متخصص حوزه سایبری ادامه داد: برخلاف بسکمک از جرایم سنتی، جرایم دیجیتال بار ها به اشتراک گذاشته شده، تکرار می شوند و حتی در برخی موارد دستاورد های ناشی از این اعمال مجرمانه به فروش می رسد. اگر این مجرمان که از هوش مصنوعی سوء استفاده می کنند حمله های خود را با هک های DoS پیوند بزنند بی شک می توانند مسائل بیشتری ایجاد کنند.

پروفسور شان جانسون یکی دیگر از افراد حاضر در این نشست نیز گفت: ما در جهانیی زندگی می کنیم که هر تغییری فرصت هایی جدید می سازد که این فرصت ها می توانند خوب یا بد باشند؛ بنابراین با علم به خطرات و تهدید های سایبری باید سیاستمداران، آژانس های امنیت و... تلاش کنند تا مقابل این اتفاقات بایستند و همیشه یک گام از مجرمان جلوتر باشند.

این نخستین نشست با موضوع تهدید های آینده تکنولوژی های نوظهور به شمار می رود و به نظر می رسد باید چنین نشست هایی در زمینه سایر فناوری ها نیز برپا شود تا بتوان با ابزاری قویتر به مقابله با مجرمان سایبری پرداخت.

خطرسازی هوش مصنوعی

نخستین موضوعی که در این نشست مورد بررسی قرار گرفت خطرات بالای هوش مصنوعی در آینده بود که در رأس آن ها فناوری دیپ فیک (Deep Fake) قرار گرفته است. از نگاه فعالان حوزه هوش مصنوعی، دیپ فیک ها این توانایی را دارند که اخبار را نیز تحت تأثیر قرار دهند و به راحتی یک خبر جعلی را در کوتاه ترین زمان ممکن به دست مردم برسانند.

با وایرال شدن یک ویدئوی دستکاری شده، به زحمت می توان برای کاربرانی که با سرعت درحال دست به دست کردن این ویدئو های تقلبی هستند یادآور شد که موضوع چیز دیگری است و این ویدئو اصلی نیست.

دیپ فیک همچنین می تواند دموکراسی را در برخی کشور ها مورد حمله قرار دهد به عنوان مثال در امریکا سخنرانی دستکاری شده نانسی پلوسی رئیس مجلس کنندگان امریکا با فناوری دیپ فیک در سال گذشته، بیش از 2.5 میلیون بازدید در فیس بوک داشت و این موضوع نگرانی های زیادی را ایجاد کرد.

مقابله با دیپ فیک برای امریکا که اکنون در آستانه انتخابات 2020 قرار گرفته بشدت حیاتی است چراکه این فناوری می تواند به راحتی در نتیجه انتخابات تأثیرگذار باشد.

مؤسسه تحقیقاتی Future Advocacy در بریتانیا نیز در این نشست نمونه هایی از دیپ فیک ها در فضای سیاسی کشور های مختلف را به عنوان نمونه ارائه کرد. هرچند برخی ویدئو های دیپ فیک که به طور مشابه از هوش مصنوعی برای ایجاد فیلم های جعلی استفاده کرده بودند هیچ خطری متوجه جامعه نمی کردند، اما نشان از پتانسیل دیپ فیک، برای تأثیرگذاری در جهانی سیاست و ایجاد تغییراتی ناخواسته دارند.

با اینکه اکنون با کمک برخی الگوریتم ها می توان دیپ فیک های آنلاین را تشخیص داد، ولی همچنان راه های بسکمک برای انتشار این ویدئو های دستکاری شده وجود دارد که این موضوع می تواند سبب بی اعتمادی مردم به محتوا های صوتی و تصویری شود.

یکی دیگر از مواردی که در رده خطر های بالای هوش مصنوعی قرار می گیرد، خودرو های خودران هستند. دراین نشست عنوان شد امکان دارد در آینده از این خودرو های بدون سرنشین به عنوان مکانیسمی برای حمل و انتقال مواد منفجره و اسلحه استفاده شود حتی برخی معتقدند شاید تروریست ها در حملات انتحاری از این خودرو ها کمک بگیرند.

از دیگر موارد خطرناک استفاده از هوش مصنوعی می توان به فیشینگ های سازماندهی شده با استفاده از قابلیت فناوری هوش مصنوعی اشاره کرد که می تواند هم نشت اطلاعاتی بسیار گسترده ای به همراه داشته باشد و هم به سیستم های بانکی ضرباتی جبران ناپذیر وارد کند.

ایجاد اختلال عمدی در سیستم های هوش مصنوعی نیز یکی از عظیمترین خطرات این فناوری به شمار می رود چرا که این اختلال می تواند بسته به توان فرد یا گروه ایجاد کننده این اختلال، دردسر ها و خسارات جدی ایجاد کند. یکی از مواردی که بسکمک از فعالان حوزه فناوری به آن اشاره دارند روبات های قاتل هستند.

این افراد معتقدند در آینده امکان دارد افرادی که صلاحیت لازم را ندارند هوش مصنوعی به کار رفته در روبات ها را تحت کنترل خود درآورند تا این روبات ها عملاً همه خواسته هایشان را عملی کنند.

لزوماً همه این خواسته ها اخلاقی نیستند و گاه می توانند دردسر زیادی برای یک جامعه ایجاد کنند. باج خواهی ها و اخاذی های گسترده نیز بخشی دیگر از نگرانی های عمده ناشی از سوء استفاده از هوش مصنوعی در آینده بود که در این نشست مطرح شد.

سلامت، در تیررس مجرمان سایبری

شرکت کنندگان در این نشست به نگرانی های خود در زمینه خطرات میانی خود در زمینه توسعه هوش مصنوعی نیز اشاره کردند. کلاهبرداری و فروش سرویس ها و محصولات با سوء استفاده از عنوان هوش مصنوعی و همچنین تبلیغات هدفدار، در این دسته از نگرانی های متخصصان حوزه هوش مصنوعی جای می گیرد.

این نگرانی ها وقتی بیشتر می شود که پای سلامت مردم در میان باشد. سوء استفاده از هوش مصنوعی در زمینه سلامت و کلاهبرداری هایی که در تبلیغات و... با کمک هوش مصنوعی انجام می گیرد در این دسته جای می گیرند. یکی از نمونه های آن هم تبلیغات دارو از زبان پزشکان با سوء استفاده از فناوری هوش مصنوعی و در قالب دیپ فیک است که می تواند بسیار دردساز و نگران کننده باشد.

بخشی دیگری از این نگرانی ها سوء استفاده از روبات های نظامی و همچنین ساماندهی حملات پهپادی با سوء استفاده از هوش مصنوعی است. در این نشست فعالان حوزه هوش مصنوعی سوء استفاده از فناوری تشخیص چهره در حکومت های سرکوبگر، دستکاری در بازار سهام و سرمایه و ایجاد مسائل مالی عمدی گسترده در بازار یک کشور را از دیگر موارد نگرانی خود در صورت سوء استفاده از هوش مصنوعی در آینده عنوان کردند.

محققان در این نشست به خطراتی با شدت کمتر سوء استفاده از هوش مصنوعی نیز اشاره داشتند. افراد شرکت کننده در این نشست یکی از نگرانی های این دسته از خطرات را روبات های سارق دانستند که زمینه ساز حمله به محتوا های هنری و موسیقی و سرقت آن ها و ایجاد هنر جعلی (fake art) می شود.

هرچند هنرمندان نسبت به این موضوع نگران هستند، اما محققان امکان بروز این حملات با استفاده از هوش مصنوعی را کمتر می دانند و آن را در دسته کم خطرترین ها رده بندی کردند. سوء استفاده از دستیار های هوش مصنوعی نیز یکی دیگر از مواردی است که محققان در این دسته از آن نام می برند.

منبع: روزنامه ایران