کلاهبرداری های فیشینگ یکی از رایج ترین راه هایی است که هکرها سعی می کنند اطلاعات شخصی و مالی شما را سرقت کنند. برخلاف بدافزارها یا برنامه های مخرب این کلاهبرداری ها نیازی به نصب نرم افزار یا اقدامات دیگری ندارند که ممکن است پرچم های قرمز را بالا ببرد. در عوض هکرها شما را فریب می دهند تا روی پیوندها کلیک کنید یا پیوست ها را دانلود کنید.

به همین دلیل مهم است که هنگام بررسی صندوق ورودی خود عجله نکنید. کلاهبرداران اغلب حس فوریت را القا می کنند به این امید که شما را به اندازه کافی مضطرب کنند که قبل از اینکه خیلی در مورد آن فکر کنید دستورالعمل های آنها را دنبال کنید. حفظ آرامش و احتیاط در هنگام رسیدگی به ایمیل های فیشینگ کلیدی است تا از افتادن در دام ترفندهای آنها جلوگیری کنید.

هکرها اغلب در تلاش های فیشینگ خود با جعل آدرس ایمیل یک شرکت خود را به عنوان برندهای محبوب پنهان می کنند. مراقب پرچم های قرمز واضح مانند کلمات غلط املایی یا دستور زبان ضعیف باشید و آدرس ایمیل یا شماره تلفن فرستنده را دوباره بررسی کنید تا از صحت آن مطمئن شوید. اگر ۱۰۰٪ متقاعد نشده اید که آیا مکاتباتی که از هر شرکتی دریافت می کنید واقعی است یا خیر، همیشه بهتر است طرف احتیاط را داشته باشید.

برای ایمن نگه داشتن رایانه خود در برابر بدافزارها و سایر ویروس هایی که ممکن است از باز کردن ایمیل فیشینگ ایجاد شوند مهم است که بهترین نرم افزار آنتی ویروس را روی رایانه شخصی خود بهترین نرم افزار آنتی ویروس در مک، ویندوز و یا یکی از بهترین برنامه های آنتی ویروس اندروید را در گوشی هوشمند اندرویدی خود نصب کنید.

منبع:
منتشر شده در سایت MSN.COM

در اوایل این هفته گوگل اعلام کرد که با اتحاد جهانی ضد کلاهبرداری (GASA) و فدراسیون تحقیقات DNS (DNS RF) برای مبارزه با کلاهبرداری های آنلاین همکاری می کند. این کار ابتکار Global Signal Exchange نامیده می شود و به عنوان یک پلت فرم به اشتراک گذاری اطلاعات برای ایجاد بینش در زمان واقعی در مورد کلاهبرداری، کلاهبرداری و سایر اشکال جرایم سایبری طراحی شده است تا تسهیل کنندگان جرایم سایبری را روشن کند.
آماندا استوری مدیر ارشد اعتماد و ایمنی گوگل در یک وبلاگ توضیح داد که این سرمایه گذاری مشترک "از نقاط قوت" شبکه ذینفعان GASA و پلت فرم داده DNS RF با بیش از ۴۰ میلیون سیگنال "برای بهبود تبادل سیگنال های سوء استفاده، امکان شناسایی سریعتر و اختلال در فعالیت های کلاهبرداری در بخش ها، پلتفرم ها و خدمات مختلف" استفاده می کند.

استوری گفت: موتوری که Global Signal Exchange را تامین می کند بر روی Google Cloud کار می کند و "شرکت کنندگان را قادر می سازد تا سیگنال های جمع آوری شده توسط دیگران را به اشتراک بگذارند و مصرف کنند و در عین حال از قابلیت های هوش مصنوعی Google Cloud Platform برای یافتن الگوها و مطابقت هوشمندانه سیگنال ها بهره ببرند."

منبع:
منتشر شده در سایت MSN.COM

هکرها اکنون دارندگان حساب جیمیل را با یک "تماس کلاهبرداری هوش مصنوعی فوق العاده واقعی" هدف قرار می دهند که می تواند حتی با تجربه ترین کاربران را فریب دهد. با توجه به اینکه بیش از ۲/۵ میلیارد کاربر جیمیل بر اساس ارقام گوگل که وجود دارد جای تعجب نیست که هکرها پلتفرم پیام گوگل را در حملات فیشینگ پیچیده تر هدف قرار می دهند.

سام میتروویچ مشاور راه حل های مایکروسافت این کلاهبرداری را در یک وبلاگ اخیر که جزئیات آنچه برای او اتفاق افتاده است علامت گذاری کرد است. او می افزاید که این کار زمانی شروع شد که او اعلانی دریافت کرد که از او می خواست تلاش برای بازیابی حساب جیمیل را تأیید کند که یک تکنیک فیشینگ بسیار رایج که برای ارسال کاربر به یک پورتال ورود جعلی برای جمع آوری بی سر و صدا اعتبار آنها طراحی شده است.
میتروویچ عاشق آن نشد و درخواست را رد کرد. حدود 40 دقیقه بعد او اعلانی دریافت کرد مبنی بر اینکه تماسی را که ادعا می کرد از گوگل سیدنی است از دست داده است. سپس یک هفته بعد او درخواست اعلان دیگری برای تأیید بازیابی حساب دریافت کرد. درست مثل قبل حدود 40 دقیقه پس از انکار آن تماس دیگری دریافت کرد. این بار او آن تماس را جواب داد و گوشی را برداشت و یک مرد آمریکایی که ادعا می کرد از پشتیبانی گوگل است پشت خط بود. این مرد تایید کرد که فعالیت مشکوکی در حساب جیمیل او وجود دارد و ادعا کرد که یک مهاجم به مدت یک هفته به حساب او دسترسی داشته و داده های حساب را دانلود کرده است.
میتروویچ گفت که این زنگ خطری بود که در ذهن او به صدا در آمد زیرا او اطلاعیه یک هفته قبل را به یاد آورد بود. در حین تماس میتروویچ شماره تلفنی را که تماس از آن آمده بود بررسی کرد و یک جستجوی سریع در گوگل نشان داد که این یک شماره قانونی از صفحه کسب و کار گوگل است. با این حال با دانستن اینکه یک تاکتیک رایج مورد استفاده توسط کلاهبرداران می تواند پنهان کند که تماس واقعا از کجا می آید او تردید داشت و خواستار ارسال ایمیلی برای او شد تا تأیید شود که آیا نماینده فرضی معامله واقعی است یا خیر. هنگامی که پیام به صندوق ورودی او رسید واقعی به نظر می رسید با این تفاوت که یکی از آدرس های موجود در قسمت "به یا To)" یک دامنه غیر گوگل بود که هوشمندانه پنهان شده بود.
میتروویچ نوشت: «تماس گیرنده گفت سلام حدود 10 ثانیه بعد آن را نادیده گرفتم سپس دوباره سلام کرد. "در این مرحله من آن را به عنوان یک صدای هوش مصنوعی احساس کردم زیرا تلفظ و فاصله بسیار عالی بود." در آن مرحله میتروویچ که متوجه شد این یک کلاهبرداری است تلفن را قطع کرد. اما فکر کردن به این که اگر او اعلان بازیابی حساب را تأیید می کرد یا اعتبار خود را به تماس گیرنده می داد چه اتفاقی می افتاد و به کلاهبرداران اجازه می داد کنترل حساب او را متوقف کنند که این امر بسیار ترسناک است.
میتروویچ توضیح داد: «کلاهبرداری ها به طور فزاینده ای پیچیده تر و قانع کننده تر می شوند و در مقیاس بزرگتر به کار گرفته می شوند. "مردم مشغول هستند و این کلاهبرداری به اندازه کافی قانونی به نظر می رسید که من به آنها برای تلاش آنها نمره A می دهم. بسیاری از مردم احتمالا به دام آن می افتند. ابزارهای زیادی برای مبارزه با کلاهبرداران وجود دارد با این حال در سطح فردی بهترین ابزار هنوز هوشیاری انجام بررسی های اولیه مانند بالا یا کمک گرفتن از شخصی است که به او اعتماد دارید.

منبع:
نوشته شده توسط توسط آلیس استنلی و منتشر شده در MSN.COM

مدارهای فوتونی تناسلی که در دمای اتاق کار می کنند همراه با اثرات غیر خطی نوری می توانند پردازش سیگنال کلاسیک و کوانتومی را متحول کنند. دانشمندان دانشکده فیزیک دانشگاه ورشو با همکاری سایر موسسات لهستان و همچنین ایتالیا، ایسلند و استرالیا ایجاد کریستال های پروسکایت با اشکال از پیش تعریف شده را نشان داده اند که می توانند در فوتونیک های غیر خطی به عنوان موجبر، کوپلر، تقسیم کننده و تعدیل کننده عمل کنند.

نتایج تحقیق که در مجله Nature Materials منتشر شده است ساخت این ساختارهای نوآورانه و اثر لیزر لبه را توصیف می کند. به طور خاص این اثر با تشکیل میعانات اکسیتون-پلاریتون ها همراه است که شبه ذراتی هستند که تا حدی مانند نور و تا حدی مانند ماده رفتار می کنند.
پروفسور باربارا پیتکا از دانشکده فیزیک دانشگاه ورشو یکی از آغازگران این پروژه و مسئول فرآیند تحقیق تأکید می کند: پروسکایت ها تطبیق پذیری زیادی از خود نشان می دهند: از لایه های پلی کریستالی، نانو و میکرو کریستال ها گرفته تا کریستال های حجیم. آنها را می توان در کاربردهای مختلف از سلول های خورشیدی گرفته تا لیزر استفاده کرد.
برخی از آنها، مانند مواد CsPbBr3 (سزیم-سرب-بروماید) که ما استفاده کردیم به دلیل انرژی اتصال اکسیتون بالا و استحکام نوسان ساز نیمه هادی های ایده آلی برای کاربردهای نوری هستند. این اثرات امکان افزایش فعل و انفعالات نور را فراهم می کند و انرژی مورد نیاز برای تقویت نور غیر خطی را به میزان قابل توجهی کاهش می دهد.

محققان از روش های سنتز تکرار پذیر و مقیاس پذیر برای به دست آوردن بلورهای پروسکایت با ابعاد و شکل های دقیق تعریف شده استفاده کردند. آنها از یک رویکرد میکرو سیالی استفاده کردند که در آن کریستال ها از محلول در قالب های پلیمری باریک رشد می کنند که می تواند با هر شکلی از یک الگو حک شود.

یک عنصر کلیدی کنترل غلظت محلول و دمای رشد با حفظ جو بخارات حلال اشباع بود. این رویکرد همراه با استفاده از الگوهای آرسنید گالیم تقریبا صاف از نظر اتمی که با استفاده از لیتوگرافی پرتو الکترونی و حکاکی پلاسما در شبکه تحقیقاتی Łukasiewicz - موسسه میکروالکترونیک و فوتونیک تحت رهبری آنا زرلینگ ساخته شده است کریستال های منفرد با کیفیت بالا تولید کرد.

به این ترتیب کریستال های CsPbBr3 را می توان به هر شکلی با گوشه های ساده برای صاف کردن منحنی ها تشکیل داد که این یک دستاورد واقعی در دنیای مواد کریستالی است. آنها را می توان بر روی هر بستری ساخت و سازگاری آنها را با دستگاه های فوتونی موجود افزایش داد.

ماتئوش کدزیورا دانشجوی دکترا در دانشکده فیزیک دانشگاه ورشو و اولین نویسنده مقاله ای که روش های سنتز کریستال را توسعه داد می افزاید: "این کریستال ها به دلیل کیفیت بالا، تشدید کننده های نوع فابری-پروت را بر روی دیواره های خود تشکیل می دهند و اجازه می دهند اثرات غیرخطی قوی بدون نیاز به آینه های براگ خارجی مشاهده شوند."

نمایش لیزر پلاریتونیک از رابط ها و گوشه های میکروسیم ها پیشرفت دیگری را نشان می دهد.
طول موج نور ساطع شده با اثرات فعل و انفعالات قوی نور-ماده اصلاح می شود که نشان می دهد انتشار به دلیل تشکیل میعانات غیر تعادلی بوز-انیشتین از اکسیتون-پلاریتون است. بنابراین این لیزر معمولی به دلیل اثر Purcell (اتصال ضعیف) نیست بلکه انتشار از میعانات در رژیم اتصال ماده سبک قوی است.

دکتر هلگی سیگورسون از دانشکده فیزیک دانشگاه ورشو و موسسه علوم دانشگاه ایسلند در ریکیاویک می افزاید: انسجام بالا بین سیگنال های مختلف نور ساطع شده از لبه ها و گوشه ها که در فوتولومینسانس میدان دور و طیف سنجی حل شده با زاویه تأیید شده است نشان دهنده تشکیل یک میعانات پلاریتون منسجم و گسترش یافته از نظر ماکروسکوپی است.
تأیید اضافی اثرات غیر خطی افزایش انرژی با افزایش جمعیت یک حالت معین (معروف به blueshift) است که نتیجه فعل و انفعالات درون میعانات است. به لطف خواص منحصر به فرد ساختارهای پروسکایت میعانات می تواند مسافت های طولانی را در داخل کریستال ها طی کند و نور ساطع شده می تواند از طریق شکاف های هوا به ساختارهای همسایه منتشر شود.

دکتر آندری اوپالا از دانشکده فیزیک دانشگاه ورشو و موسسه فیزیک آکادمی علوم لهستان یکی از نویسندگان اصلی مقاله و توسعه دهنده مدل نظری که نشان می دهد چگونه دیافراگم عددی و محصور فضایی در میکروسیم ها بر اثرات مشاهده شده تأثیر می گذارد، می افزاید: شبیه سازی های ما نشان می دهد که چگونه دیافراگم عددی و محصور فضایی در میکروسیم ها بر اثرات مشاهده شده تأثیر می گذارد.

پروفسور توماس چیزانوفسکی از دانشگاه صنعتی لودز که متخصص شبیه سازی ساختارهای فوتونی و لیزری است توضیح می دهد: "علاوه بر این به لطف محاسبات مبتنی بر حل معادلات ماکسول در ساختارهای سه بعدی با اشکال پیچیده، ما توانستیم حالت های فوتونی را تجسم کنیم و نشان دهیم که چگونه تصویر آنها در میدان دور شکل می گیرد." این کشف امکان استفاده از آنها را در سیستم های فشرده "روی تراشه" فراهم می کند که می توانند وظایف محاسباتی کلاسیک و کوانتومی را انجام دهند.

پروفسور مایکل ماتوشوسکی از مرکز فیزیک نظری آکادمی علوم لهستان نتیجه می گیرد: "ما پیش بینی می کنیم که اکتشافات ما در را به روی دستگاه های آینده باز می کند که می توانند در سطح تک فوتون ها کار کنند و نانولیزرها را با موجبرها و سایر عناصر در یک تراشه ادغام کنند."

پروسکایت ها می توانند نقش کلیدی در توسعه بیشتر فناوری های نوری داشته باشند و اکتشافات فیزیکدانان از UW می تواند شانس استفاده از کریستال های پروسکایت را در فوتونیک های غیر خطی که در دمای اتاق کار می کنند به میزان قابل توجهی افزایش دهد. علاوه بر این ساختارهای توسعه یافته ممکن است با فناوری سیلیکون سازگار باشند و پتانسیل تجاری سازی آنها را بیشتر کنند.

منبع:
ارائه شده توسط دانشگاه ورشو
این نوشته ابتدا در Phys.org منتشر شده است. و سپس در MSN.COM منتشر شده است.

تحقیقات جدید نشان داده است که مشتریان بانکی در یک روش تازه کشف شده از حملات فیشینگ هدف قرار گرفته اند.

گزارشی از سایت Eset نشان داد که این حملات عمدتا بر روی کاربران آیفون و اندروید متمرکز شده است و آنها را وادار می کند تا آگاهانه برنامه های کاربردی وب اپلیکیشن (PWA) را که به عنوان برنامه های معتبر است دانلود کنند.

PWA ها وب سایت هایی هستند که مانند یک برنامه مستقل رفتار می کنند و به نظر می رسد تصویر با استفاده از پیام های سیستم بومی تأیید می شود. PWA ها نیاز کاربر به اجازه نصب نرم‌افزار اصلی را دور می‌زنند و با سایت های فیشینگ iOS که به عنوان صفحات اصلی برنامه های محبوب ظاهر می شوند و قربانیان را برای افزودن PWA به صفحه اصلی خود هدایت می کنند. در نهایت PWA ها مانند یک برنامه تلفن همراه معمولی رفتار می کنند که با دور زدن مجوز نصب شخص ثالث در اندروید که این امر منجر به نصب بی صدا کیت بسته اندروید (APK) می شود و به نظر می رسید از طریق فروشگاه Google Play نصب شده است.

روش های تحویل بد افزار:
این بدافزار از سه مکانیسم مختلف تحویل URL استفاده کرده که تماس صوتی، تحویل پیامک و Malvertising با مشتریان در سراسر جمهوری چک، مجارستان و گرجستان است.
بسته به بدافزار دکمه نصب یا به روزرسانی دانلود یک برنامه مخرب را مستقیما بر روی تلفن کاربر یا به صورت WebAPK (برای دستگاه های اندرویدی) یا PWA راه اندازی می کند. این هشدارهای معمول مرورگر در مورد "نصب برنامه های ناشناخته" را دور زد.

تماس صوتی به قربانی در مورد یک برنامه بانکی فرضی قدیمی هشدار می دهد و به کاربر دستور می دهد که یک گزینه شماره گذاری شده را انتخاب کند. پس از انجام این کار یک URL فیشینگ برای آنها پیامک می شود. با تحویل پیامک پیام هایی را ارسال می کرد که شامل لینک فیشینگ به طور بی رویه به شماره های کشور چک بود، در حالی که بدافزار تبلیغاتی شامل تبلیغات ثبت شده در پلتفرم های متا مانند فیس بوک و اینستاگرام بود.

این تبلیغات حاوی فراخوانی برای اقدام برای وادار کردن قربانیان بود مانند یک پیشنهاد زمان محدود برای کسانی که «به روزرسانی را در زیر دانلود می کنند» گزارش های اخیر نشان می دهد که عوامل تهدید مشابه از نسخه های جعلی برنامه های محبوب اندرویدبا روش های پیچیده تر استفاده می کنند.

سایت Eset انتظار دارد که بتواند کپی از این برنامه ها را ببیند و تجزیه و تحلیل کند بنابراین توصیه می کنیم هوشیار باشید.

بهترین راه برای ایمن نگه داشتن داده های خود این است که فقط برنامه ها را از منابع قانونی دانلود کنید و مراقب پیوندهای ارسال شده توسط هر کسی باشید که نمی شناسید.

ایلان ماسک سه شنبه شب یک ویژگی جدید تولید تصویر هوش مصنوعی را منتشر کرد که درست مانند چت بات هوش مصنوعی، پادمان های بسیار کمی دارد. این بدان معناست که شما می توانید تصاویر جعلی از دونالد ترامپ در حال کشیدن ماری جوانا در نمایش جو روگان ایجاد کنید و آن را مستقیما در پلتفرم X آپلود کنید. اما در واقع این شرکت هوش مصنوعی ایلان ماسک نیست که جنون را تقویت می کند. در عوض، یک استارت آپ جدید Black Forest Labs لباس پشت این ویژگی بحث برانگیز است.

همکاری بین این دو زمانی فاش شد که xAI اعلام کرد که با آزمایشگاه های جنگل سیاه برای تامین انرژی مولد تصویر Grok با استفاده از مدل FLUX.1 خود کار می کند. به نظر می رسد آزمایشگاه های جنگل سیاه، یک استارت آپ تصویر و ویدیوی هوش مصنوعی که در 1 آگوست راه اندازی شد با دیدگاه ماسک برای گروک به عنوان یک "چت بات ضد بیداری" بدون محافظ های سختگیرانه موجود در Dall-E OpenAI یا Imagen گوگل همدردی می کند. این سایت رسانه اجتماعی در حال حاضر مملو از تصاویر ظالمانه از ویژگی جدید است.

بر اساس یک بیانیه مطبوعاتی آزمایشگاه جنگل سیاه در آلمان مستقر است و اخیرا با ۳۱ میلیون دلار بودجه اولیه به رهبری آندرسن هوروویتز از مخفیانه خارج شده است. از دیگر سرمایه گذاران قابل توجه می توان به گری تان مدیر عامل Y Combinator و برندان ایریبه مدیر عامل سابق Oculus اشاره کرد. بنیانگذاران این استارت آپ، رابین رومباخ، پاتریک اسر و آندریاس بلاتمن، قبلا محققانی بودند که به ایجاد مدل های انتشار پایدار Stability AI کمک کردند.

بر اساس تجزیه و تحلیل مصنوعی، مدل های FLUX.1 آزمایشگاه جنگل سیاه از نظر کیفیت از تولیدکنندگان تصویر هوش مصنوعی Midjourney و OpenAI پیشی می گیرند، حداقل همانطور که توسط کاربران در عرصه تصویر خود رتبه بندی شده اند.

این استارت آپ می گوید که با مدل های تولید تصویر هوش مصنوعی منبع باز در Hugging Face و GitHub، "مدل های خود را در دسترس مخاطبان گسترده ای قرار می دهد". این شرکت می گوید که قصد دارد به زودی یک مدل متن به ویدیو نیز ایجاد کند.

آزمایشگاه های جنگل سیاه بلافاصله به درخواست سایت TechCrunch برای اظهار نظر پاسخ ندادند.

این شرکت در انتشار خود می گوید که هدف آن "افزایش اعتماد به ایمنی این مدل ها" است. با این حال، برخی ممکن است بگویند که سیل تصاویر تولید شده توسط هوش مصنوعی آن در X چهارشنبه برعکس عمل کرد. بسیاری از تصاویری که کاربران توانستند با استفاده از ابزار Grok و Black Forest Labs ایجاد کنند مانند پیکاچو که یک تفنگ تهاجمی در دست دارد، نتوانستند با مولدهای تصویر گوگل یا OpenAI دوباره ایجاد شوند. مطمئنا شکی نیست که از تصاویر دارای حق چاپ برای آموزش مدل استفاده شده است که این به نوعی یک نکته است.

این عدم تدابیر حفاظتی احتمالا دلیل اصلی انتخاب ماسک این همکار است. ماسک تصریح کرده است که معتقد است پادمان ها در واقع مدل های هوش مصنوعی را کمتر ایمن می کنند. ماسک در توییتی از سال 2022 گفت: «خطر آموزش هوش مصنوعی برای بیدار شدن به عبارت دیگر دروغی کشنده است.

مدیر هیئت مدیره آزمایشگاه های جنگل سیاه Anjney Midha مجموعه ای از مقایسه ها را بین تصاویر تولید شده در روز اول راه اندازی توسط Google Gemini و همکاری Grok's Flux در X ارسال کرد. این موضوع مسائل مستند Google Gemini را در ایجاد تصاویر دقیق تاریخی از افراد، به ویژه با تزریق تنوع نژادی به تصاویر به طور نامناسب، برجسته می کند.

میدا در توییتی گفت: «خوشحالم که ibab@ و تیم این موضوع را جدی گرفتند و انتخاب درستی گرفتند» و به اجتناب ظاهری FLUX.1 از این موضوع اشاره کرد (و به حساب ایگور بابوشکین، محقق ارشد xAI) اشاره کرد.

به دلیل این اشتباه، گوگل عذرخواهی کرد و توانایی Gemini برای تولید تصاویر از افراد را در ماه فوریه خاموش کرد. از امروز این شرکت هنوز به جوزا اجازه نمی دهد تصاویری از افراد تولید کند.
می توان گفت شلنگ آبپاش آتش نشانی برروی اطلاعات نادرست!
این فقدان کلی تدابیر حفاظتی می تواند مشکلاتی را برای ماسک ایجاد کند. پلتفرم X زمانی که تصاویر صریح دیپ جعلی تولید شده توسط هوش مصنوعی به نمایندگی از تیلور سویفت در این پلتفرم منتشر شد مورد انتقاد قرار گرفت. علاوه بر این حادثه، گروک عناوین توهم آمیزی ایجاد می کند که تقریبا هر هفته برای کاربران X ظاهر می شود.

همین هفته گذشته، پنج وزیر امور خارجه از X خواستند تا انتشار اطلاعات نادرست در مورد کامالا هریس را در X متوقف کند. در اوایل این ماه ماسک ویدیویی را دوباره به اشتراک گذاشت که از هوش مصنوعی برای شبیه سازی صدای هریس استفاده می کرد و به نظر می رسید که معاون رئیس جمهور به "استخدام تنوع" اعتراف کرده است.

به نظر می رسد ماسک قصد دارد اجازه دهد اطلاعات نادرستی مانند این در پلتفرم نفوذ کند. با اجازه دادن به کاربران برای ارسال تصاویر هوش مصنوعی Grok، که به نظر می رسد فاقد واترمارک هستند مستقیما روی پلتفرم، او اساساً یک شلنگ آبپاش آتش سوزی برروی اطلاعات نادرست را که به فید خبری X همه اشاره می کند، باز کرده است.

همه مدل های هوش مصنوعی مولد توهم می زنند، از Gemini گوگل گرفته تا کلود از Anthropic تا آخرین نسخه مخفی از GPT-4o OpenAI. به عبارت دیگر، مدل ها راویان غیر قابل اعتماد هستند. گاهی اوقات به جلوه های خنده دار، گاهی اوقات به طور مشکل ساز.
اما همه مدل ها همه چیز را با سرعت یکسان تشکیل نمی دهند و انواع دروغ هایی که آنها بیان می کنند بستگی به این دارد که در معرض کدام منابع اطلاعاتی قرار گرفته اند.

یک مطالعه اخیر توسط محققان کرنل، دانشگاه های واشنگتن و واترلو موسسه تحقیقاتی غیرانتفاعی AI2 به دنبال محک زدن توهمات با مدل های راستی آزمایی مانند GPT-4O در برابر منابع معتبر در موضوعات مختلف از قانون و بهداشت گرفته تا تاریخ و جغرافیا بود. آنها دریافتند که هیچ مدلی در همه موضوعات عملکرد فوق العاده خوبی ندارد و مدل هایی که کمترین توهم را داشتند تا حدی به این دلیل که از پاسخ دادن به سوالاتی که در غیر این صورت اشتباه می کردند امتناع کردند.

ونتینگ ژائو، دانشجوی دکترا در کرنل و یکی از نویسندگان این تحقیق، به TechCrunch گفت: «مهمترین نکته از کار ما این است که هنوز نمی توانیم به طور کامل به خروجی های نسل های مدل اعتماد کنیم. در حال حاضر، حتی بهترین مدل ها نیز می توانند متن بدون توهم را تنها در حدود ۳۵ درصد مواقع تولید کنند.»

تلاش های آکادمیک دیگری برای بررسی "واقعیت" مدل ها انجام شده است، از جمله یکی توسط یک تیم جداگانه وابسته به AI2. اما ژائو خاطر نشان می کند که این آزمایش های قبلی از مدل ها سوالاتی پرسیده اند که پاسخ هایی به راحتی در ویکی پدیا یافت می شود - با توجه به اینکه اکثر مدل ها بر روی داده های ویکی پدیا آموزش دیده اند، دقیقاً سخت ترین پرسیدن نیست.

برای چالش برانگیز تر کردن معیار خود و برای انعکاس دقیقتر انواع سوالاتی که مردم از مدل ها می پرسند. محققان موضوعاتی را در سراسر وب شناسایی کردند که مرجع ویکی پدیا ندارند. کمی بیش از نیمی از سؤالات موجود در تست آنها را نمی توان با استفاده از ویکی پدیا پاسخ داد (آنها شامل برخی از سوالات منبع ویکی پدیا برای اندازه گیری خوب بودند) و به موضوعاتی از جمله فرهنگ، جغرافیا، نجوم، فرهنگ عامه، امور مالی، پزشکی، علوم کامپیوتر و افراد مشهور می پردازند.

بنابراین همه اینها به چه معناست - و پیشرفت هایی که فروشندگان وعده داده اند کجاست؟

خوب، ما نمی خواهیم فروشندگان را برای اغراق در ادعاهای خود قرار دهیم. اما یک برداشت خیرخواهانه تر این است که معیارهایی که آنها استفاده می کنند برای این منظور مناسب نیستند. همانطور که قبلا در مورد آن نوشتیم، بسیاری از ارزیابی های هوش مصنوعی، اگر نگوییم بیشتر، گذرا و عاری از زمینه های مهم هستند و محکوم به قربانی شدن قانون گودهارت هستند.

صرف نظر از این، ژائو می گوید که انتظار دارد موضوع " توهمات برای مدت طولانی ادامه داشته باشد. "

او گفت: " نتایج تجربی در مقاله ما نشان می دهد که علیرغم وعده روش های خاص برای کاهش یا از بین بردن توهمات، بهبود واقعی قابل دستیابی با این روش ها محدود است. " علاوه بر این تجزیه و تحلیل ما نشان می دهد که حتی دانش موجود در اینترنت اغلب می تواند متناقض باشد، تا حدی به این دلیل که داده های آموزشی نوشته شده توسط انسان نیز می تواند حاوی توهم باشد."

یک راه حل موقت می تواند به سادگی برنامه ریزی مدل هایی باشد که اغلب از پاسخ دادن امتناع می کنند. معادل فنی به گفتن یک فرد می داند که آن را از بین ببرد.

در آزمایش محققان، کلود 3 هایکو تنها به حدود ۷۲ درصد از سوالاتی که پرسیده شده بود پاسخ داد و تصمیم گرفت از بقیه خودداری کند. وقتی رای ممتنع را در نظر بگیریم، کلود ۳ هایکو در واقع واقعی ترین مدل از همه آنها بود. حداقل به این معنا که کمترین دروغ را می گفت.

اما آیا مردم از مدلی استفاده می کنند که به بسیاری از سوالات پاسخ نمی دهد؟ ژائو می گوید فروشندگان باید بیشتر وقت و تلاش خود را بر تحقیقات کاهش توهم متمرکز کنند. او ادعا می کند که از بین بردن توهمات به طور کامل ممکن نیست، اما می توان آنها را از طریق راستی آزمایی و استناد انسان در حلقه در طول توسعه یک مدل کاهش داد.

ژائو افزود: «سیاست ها و مقررات باید تدوین شوند تا اطمینان حاصل شود که کارشناسان انسانی همیشه در فرآیند تأیید و اعتبار سنجی اطلاعات تولید شده توسط مدل های هوش مصنوعی مولد مشارکت دارند.» "هنوز فرصت های متعددی برای تأثیرات قابل توجه در این زمینه وجود دارد، مانند توسعه ابزارهای پیشرفته راستی آزمایی برای هر متن آزاد، ارائه استناد به محتوای واقعی و ارائه اصلاحات برای متون توهم هوش مصنوعی."

اریک اشمیت مدیرعامل سابق گوگل که از آن زمان به مراتع سبزتر و شاید خطرناک تر نقل مکان کرده است. اخیرا به مخاطبان دانشجویان استنفورد گفت که "گوگل تصمیم گرفت که تعادل بین کار و زندگی و زود رفتن به خانه و کار از خانه مهمتر از برنده شدن است." بدیهی است که این برداشت داغ برای مصرف گسترده تر نبود، زیرا استنفورد که این ویدیو را این هفته در یوتیوب منتشر کرد امروز ویدیوی این رویداد را خصوصی کرد.

تعجب آور نخواهد بود اگر به دستور استعداد باشد. اشمیت در بیانیه ای ایمیلی به TechCrunch گفت: «من در مورد گوگل و ساعات کاری آنها اشتباه صحبت کردم. "من از اشتباهم پشیمانم."

چندین نشریه خبری در حال حاضر تیتر هایی را در مورد این ویدیو منتشر کرده اند و 1.4 میلیون نفر کلیپی از اشمیت را مشاهده کردند که شیوه های کار از راه دور گوگل را در X حذف می کند.

در نقطه دیگری از ویدیو، اشمیت به تماشاگران می گوید که آنچه را که به آنها می گوید خصوصی نگه دارند، سپس وقتی مصاحبه کننده اش به دوربین های موجود در اتاق اشاره می کند، تا حدودی شگفت زده می شود. در نقطه دیگری، او به مخاطبان می گوید که استارت آپ های هوش مصنوعی می توانند IP را بدزدند و وکلای باهوشی را استخدام کنند تا بعدا، پس از ایجاد یک محصول موفق، آن را تمیز کنند. احتمالا مدیرعامل سابق گوگل نمی دانست که کل مصاحبه به صورت آنلاین ارسال می شود.