نورنیوز-گروه اقتصادی: به گزارش گجت نیوز، با وجود پیشرفتهای خیرهکننده و نفوذ هوش مصنوعی به جنبههای مختلف زندگی، از تولید موسیقی گرفته تا کاربردهای شغلی، برخی حوزهها وجود دارند که دخالت هوش مصنوعی در آنها میتواند عواقب جدی به همراه داشته باشد. در این مقاله به پنج مورد مهم و خطرناک میپردازیم که استفاده از هوش مصنوعی در آنها به هیچ وجه توصیه نمیشود.
هرگز از هوش مصنوعی برای ساخت دیپفیک از دیگران استفاده نکنید
ظهور دیپفیکها در ابتدا نگرانیهایی در مورد اطلاعات نادرست ایجاد کرد، اما واقعیت تلخ این است که ۹۸٪ از دیپفیکها برای ساخت پورنوگرافی غیرتوافقی استفاده میشوند. این فناوری به ابزاری برای انتشار تصاویر مستهجن از افراد مشهور و حتی شهروندان عادی بدون رضایت آنها تبدیل شده است.
نمونههای دلخراشی از این سوءاستفادهها در کانالهای تلگرامی کره جنوبی (با هدف ساخت تصاویر جنسی از دانشآموزان) و آزار روزنامهنگاران و افراد مشهور گزارش شده است. هرچند تلاشهایی برای مسدود کردن وبسایتهای پورنوگرافی دیپفیک و وضع قوانین صورت گرفته، ابزارهای ساخت آن همچنان در دسترس هستند. استفاده از دیپفیک بدون رضایت، حتی اگر هرگز آنلاین منتشر نشود، کاملاً غیرقابل قبول است و اغلب برای کلاهبرداری یا اطلاعات غلط سیاسی به کار میرود.
برای اطلاعات مرتبط با سلامتی، به هوش مصنوعی اعتماد نکنید
همه به یاد دارند که هوش مصنوعی گوگل زمانی به مردم توصیه میکرد چسب روی پیتزا بریزند! این مثال نشان میدهد که چرا نباید به چتباتها برای اطلاعات سلامتی اعتماد کرد. با این حال، بیش از یکسوم آمریکاییها برای برنامهریزی وعدههای غذایی، تمرینات ورزشی و حتی تأیید اطلاعات سلامتی به هوش مصنوعی تکیه میکنند.
مدلهای زبانی بزرگ (LLM) بر اساس حجم عظیمی از دادههای اینترنتی آموزش میبینند که شامل اطلاعات نادرست نیز میشود و توانایی بررسی صحت اطلاعات را ندارند. آنها به راحتی اطلاعات غلط تولید میکنند تا شکافهای دانش خود را پر کنند. در حالی که برخی توصیههای ساده (مثل تعداد تکرار تمرینات) ممکن است بیضرر باشند، مشورت در مورد آنچه وارد بدن میشود، روی پوست مالیده میشود یا میزان خواب، به معنی به خطر انداختن سلامتی به بدترین شکل ممکن است. همیشه باید به متخصصان پزشکی مراجعه کرد.
برای انجام تکالیف درسی خود، به هوش مصنوعی متکی نباشید
با توانایی چتباتها در نوشتن مقاله، پاسخ به سؤالات و حل مسائل، بسیاری از دانشآموزان و دانشجویان راه آسانتر را انتخاب کرده و از آنها استفاده میکنند. این رویکرد، هدف اصلی آموزش را که پرورش تفکر انتقادی، تحقیق و حل مسئله است، تضعیف میکند. زمانی که یک چتبات فوراً تکالیف را انجام میدهد، افراد فرآیند دشوار اما حیاتی یادگیری را که آنها را به فردی تحصیلکرده و باهوش تبدیل میکند، از دست میدهند. همچنین، مشکل توهمزایی هوش مصنوعی میتواند به یادگیری اطلاعات نادرست منجر شود. تصور کنید پزشکان، خلبانان یا معماران آینده، با آموزشی ناقص یا غلط، اشتباهاتی مرتکب شوند که جان انسانها را به خطر اندازد. استفاده از هوش مصنوعی برای انجام تکالیف نه تنها از نظر آکادمیک نادرست است، بلکه میتواند دیگران را نیز به خطر بیندازد.
هرگز برای گرفتن توصیههای جدی زندگی به هوش مصنوعی رجوع نکنید
در نگاه اول، ممکن است به نظر برسد که هوش مصنوعی به دلیل توانایی در مکالمه، میتواند یک مشاور یا درمانگر عالی باشد. اما داستانهای وحشتناکی وجود دارد، از جمله ناتوانی ChatGPT در منصرف کردن نوجوانی از افکار خودکشی، یا یک «دوستدختر هوش مصنوعی» که شریک خود را به خودکشی تشویق کرد. بسیاری از مردم از چتباتها به عنوان درمانگر یا همراه دیجیتالی استفاده میکنند و توصیههای بسیار نگرانکنندهای دریافت میکنند.
چتباتها، الگوریتمهای پیچیدهای هستند که کلمات را در یک توالی پیشبینی میکنند، نه متخصصان آموزشدیده یا موجوداتی هوشمند. گرچه استفاده از آنها برای تبادل ایده با احتیاط فراوان بلامانع است، اما نباید برای تشخیص سلامت روان، مشاوره روابط یا به عنوان یک مربی زندگی به آنها اعتماد کرد. حتی پرداخت برای نسخههای پریمیوم نیز ماهیت الگوریتمی آنها را تغییر نمیدهد.
کدنویسی با اتکا به هوش مصنوعی (Vibe-coding) ممنوع
هوش مصنوعی در کدنویسی نیز مفید واقع شده و به برنامهنویسان کمک میکند تا کد را سریعتر تولید کنند؛ این روش واید کدینگ (Vibe Coding) نامیده میشود. با این حال، استفاده بیرویه از هوش مصنوعی در کدنویسی دو مشکل اساسی دارد. اول اینکه، مانند آموزش، برنامهنویسان را از تجربیات یادگیری مهم محروم میکند. برنامهنویسی اساساً یک تمرین حل مسئله است که مهارتها را بهبود میبخشد. برنامهنویسانی که صرفاً به خروجی چتبات تکیه میکنند، مهارتهای خود را تحلیل میبرند.
دوم اینکه این کدها اغلب پر از خطا و ناامن هستند. نمونهای از این مشکل در اپلیکیشن محبوب Tea گزارش شد که پس از نفوذ گسترده به دادههای کاربران، گمانهزنیهایی مبنی بر استفاده از واید کدینگ هوش مصنوعی در توسعه آن مطرح شد. برنامهنویسان باید خروجی هوش مصنوعی را به دقت بررسی کنند، در غیر این صورت حریم خصوصی و امنیت دادههای کاربران به خطر میافتد.
ایسنا