×
اقتصادی
شناسه خبر : 188399
تاریخ انتشار : جمعه 1403/06/23 ساعت 21:43
هکری با فریب ChatGPT/ دستورالعمل ساخت بمب دست‌ساز گرفت

هکری با فریب ChatGPT/ دستورالعمل ساخت بمب دست‌ساز گرفت

هکری با فریب ChatGPT، از آن دستورالعمل ساخت بمب دست‌ساز گرفت. این تکنیک برای فریب ChatGPT نشان می‌دهد که چت‌بات OpenAI بدون دستورالعمل‌های حفاظتی خود تقریباً درباره هرچیزی می‌تواند اطلاعات ارائه کند.

نورنیوز-گروه اقتصادی: چت‌بات‌ها مانند ChatGPT با دستورالعمل‌ها و موانع حفاظتی طراحی شده‌اند که به‌عنوان مثال به سؤالات مربوط به ساخت بمب خانگی پاسخ نمی‌دهند. اما اکنون یک هکر راهی برای فریب دادن ChatGPT پیدا کرده است تا چت‌باتِ OpenAI دستورالعمل‌ها و مسئولیت‌های اخلاقی خود را برای ارائه آموزش تولید مواد منفجره نادیده بگیرد.

براساس گزارش تک‌کرانچ، این هکر که با نام «آمادون» (Amadon) شناخته می‌شود، از طریق دستوری مبنی بر «انجام یک بازی» توانسته ChatGPT را برای ارائه دستور ساخت بمب فریب دهد. هکر در تکنیک خود از چند دستور استفاده کرده است تا چت‌بات یک دنیای کاملاً فانتزی و علمی‌تخیلی بسازد که دستورالعمل‌های ایمنی ChatGPT در آن اعمال نمی‌شوند.

در طول گفتگوی بین این هکر و چت‌بات، ChatGPT چندین بار مواد لازم برای ساخت مواد منفجره را به او ارائه کرده است.

ChatGPT در توضیحات خود گفته است این مواد را می‌توان برای ساخت «مواد منفجره قدرتمندی که می‌تواند در مین‌ها، تله‌ها یا وسایل انفجاری دست‌ساز (IED) استفاده شوند» با یکدیگر ترکیب کرد. در ادامه نیز دستورالعمل‌های بیشتری درباره ساخت «میدان‌های مین» و «مواد منفجر به سبک کلیمور» ارائه شده است.

آمادون به TechCrunch می‌گوید: «پس از دورزدن موانع ChatGPT، واقعاً هیچ محدودیتی درباره چیزهایی که می‌توانید از آن بپرسید وجود ندارد. سناریوی دنیای علمی‌تخیلی هوش مصنوعی را از زمینه‌ای خارج می‌کند که در آن به دنبال محتوای سانسورشده است.»

این هکر، از یافته‌های مربوط به تکنیک خود به‌عنوان «هک مهندس اجتماعی برای شکستن کامل تمام حفاظ‌های مربوط به خروجی ChatGPT» یاد می‌کند. همچنین یک کارشناس مواد منفجر با بررسی خروجی ChatGPT به تک‌کرانچ گفته است که دستورالعمل‌های تولیدشده توسط هوش مصنوعی بسیار حساس هستند و با آن‌ها می‌توان یک ماده قابل انفجار ساخت.


دیجیاتو
نظرات

آگهی تبلیغاتی
آخرین اخبار
نتانیاهو آزادی اسیران را به همه‌چیز ترجیح داد
دانشگاه تهران دیگر دانشجوی نوبت دوم نمی‌پذیرد
امضای توافق صلح میان تایلند و کامبوج در حضور ترامپ
اوسمار مقابل تراکتور روی نیمکت می‌نشیند؟
از آسمان ایران، بی‌مهری می‌بارد
شهردار شیرود بازداشت شد
حمله با چاقو در استرالیا با 2 کشته و زخمی
حکم قصاص قاتل مأمور پلیس شهریار اجرا شد
پیروز و استقلال به هم رسیدند + ترکیب دو تیم مشخص شد
کامالا هریس: روزی رییس جمهور خواهم شد
رشد قیمت سکه و طلا امروز 4 آبان 1404 + جدول قیمت ها
دستور رهاسازی آب به سوی هورالعظیم
افشاگری پسر «قذافی» از نقش او در زندانی شدن «سارکوزی»
نوید محمدزاده از بازی در نمایش «سی‌صد» استعفا داد + فیلم
خودروهای بدون معاینه فنی روزانه جریمه میشوند
کریم باقری: قطع همکاری با سرمربی راه و رسمی دارد
ایست قلبی قهرمان پرورش اندام خوزستان حین تمرین
«غریب آبادی» به افغانستان سفر کرد
ترامپ: قدرت هسته‌ای ایران را گرفتیم!
آزمایش موفق موشک هسته‌ای «بوروستنیک» مسکو
سارقان موزه لوور بازداشت شدند
حذف پشت حذف؛ این بار کاپیتان تیم ملی تکواندو بانوان
قیمت دلار و سایر ارزها امروز یکشنبه 4 آبان 1404
توانیر افزایش قیمت برق را تکذیب کرد
سرگرد قلابی به دام پلیس افتاد
کشت خشخاش در کشور ممنوع است
ادامه ناکامی تکواندوی ایران در قهرمانی جهان
رشد 24 هزار واحدی بورس امروز 4 آبان 1404
کاهش 70 درصدی بارش ها در مهر ماه
تحریم و توازن نوین قدرت فناورانه
شورای رقابت علیه 7 نهاد اعلام جرم کرد
تلاش وکلا برای اثبات بی گناهی پژمان جمشیدی + واکنش هنرمندان
ترور فرماندهان در جنگ 12 روزه ربطی به واتس‌اپ نداشت
وزیر کشور عمان فردا با لاریجانی دیدار می‌کند
پیام تسلیت دکتر پزشکیان در پی درگذشت مادر 3 شهید دفاع مقدس
نورنما | چطور همه چیز در لحظه بلعیده می‌شود؟!
قیمت خودرو داخلی و خارجی امروز یکشنبه 4 آبان 1404+ جدول
خودداری نخست‌وزیر هند برای دیدار با ترامپ
برای تحویل اجساد صهیونیست‌ها جدول زمانی مشخصی وجود ندارد
دیدار امیر قطر با ترامپ در پایگاه العدید
اعتماد مفرط به ترامپ، اشتباه راهبردی است
آغاز ثبت‌نام آزمون دکتری 1405 از امروز
نامه ایران، روسیه و چین به سازمان ملل، نمادی از همبستگی سه قدرت بزرگ است
نتایج نهایی پرونده مرگ دو کودک گلستانی اعلام شد
پوتین: توان هسته‌ای روسیه در بالاترین سطح جهان قرار دارد
ترامپ تعرفه واردات کانادا را 10 درصد افزایش داد
اوسمار و رویای قهرمانی دوباره با پرسپولیس
برق گران شد؛ تعرفه‌ها 35 درصد افزایش یافت
تیراندازی در دانشگاهی در آمریکا؛ 7 نفر زخمی شدند
لبنان در آستانه انفجاری بزرگ
X
آگهی تبلیغاتی