قام خبراء كاسبرسكي بتحليل عينة من الموارد، وتحديد الخصائص الرئيسية التي تساعد في التمييز والكشف عن حالات استخدام الذكاء الاصطناعي لتوليد محتوى وبناء مواقع إلكترونية كاملة للتصيد والاحتيال.
تتمثل واحدة من العلامات البارزة للنصوص المولدة بواسطة النماذج اللغوية الكبيرة في إعلان إخلاء المسؤولية ورفض تنفيذ الأوامر لروبوتات المحادثة أحياناً، ويشمل ذلك عبارات مثل «كنموذج لغوي مدعوم بالذكاء الاصطناعي». على سبيل المثال، تحتوي صفحتان تصيديتان تستهدفان مستخدمي عملة KuCoin على عبارات مشابهة.
قال فلاديسلاف توشكانوف، مدير مجموعة تطوير الأبحاث لدى كاسبرسكي: «بواسطة النماذج اللغوية الكبيرة، يمكن للمهاجمين أتمتة توليد عشرات أو حتى مئات صفحات الويب التصيدية والخادعة ذات المحتوى الفريد وعالي الجودة. وبينما كان ذلك يتطلب جهداً يدوياً في الماضي، يمكن للذكاء الاصطناعي الآن مساعدة مصادر التهديد على توليد هذا النوع من المحتوى تلقائياً.»
يمكن استخدام النماذج اللغوية الكبيرة لتوليد كتل نصية، بل وصفحات ويب كاملة، مع ظهور آثارها في النص نفسه وفي مناطق مثل وسوم البيانات الوصفية، وهي مقتطفات نصية تصف محتوى صفحة الويب وتظهر في كود HTML الخاص بها.
هناك مؤشرات أخرى لاستخدام الذكاء الاصطناعي في تصميم مواقع احتيالية. على سبيل المثال، تميل بعض النماذج لاستخدام عبارات محددة مثل «التعمق»، و«في المشهد المتطور باستمرار»، و«في العالم المتغير باستمرار». ورغم أن هذه المصطلحات لا تُعد مؤشرات قوية لتوليد المحتوى بواسطة الذكاء الاصطناعي، يمكن اعتبارها كعلامات على ذلك.
عبارات مثل «في العالم الديناميكي للعملات المشفرة» و«دعونا نتعمق» في صفحة تصيدية تستهدف مستخدمي موقع Ledger
عمليات تصيدية تستهدف مستخدمي موقع Bitbuy، بعبارات مثل «عالم العملات المشفرة المتطور باستمرار» ومقال عن «استكشاف بحار العملات المشفرة»
تشمل الميزات الأخرى للنص المولد بواسطة النماذج اللغوية الكبيرة الإشارة للمدى الذي تمتد إليه معرفة النموذج بالعالم. وعادة ما تظهر النماذج هذه القيود باستخدام عبارات مثل «وفق تحديثي الأخير في شهر يناير 2023».
غالباً ما يُدمج النص المولد بواسطة النماذج اللغوية الكبيرة مع تكتيكات تجعل اكتشاف الصفحات التصيدية أكثر تعقيداً لأدوات الأمن السيبراني. فعلى سبيل المثال، قد يستخدم المهاجمون رموز معيار Unicode غير القياسية، مثل تلك المتضمنة لعلامات تشكيل أو المستمدة من الترميز الرياضي، لإخفاء النص ومنع المطابقة بواسطة أنظمة الكشف القائمة على قواعد.
أضاف توشكانوف: «تشهد النماذج اللغوية الكبيرة تحسناً مستمراً، ويستكشف المجرمون السيبرانيون طرقاً لتطبيق هذه التكنولوجيا لأغراض خبيثة. ومع ذلك، توفر الأخطاء رؤى بشأن استخدامهم لهذه الأدوات، وخاصةً فيما يتعلق بالمدى المتزايد للأتمتة. ومع التطورات المستقبلية، قد يصبح التمييز بين المحتوى المولد بواسطة الذكاء الاصطناعي والمحتوى المولد بواسطة الإنسان أكثر صعوبةً، مما يزيد الحاجة لاستخدام حلول أمنية متقدمة تعمل على تحليل المعلومات النصية، والبيانات الوصفية، وغيرها من مؤشرات الاحتيال الأخرى.»
تحقق من تهجئة الروابط، فقد تبدو رسائل البريد الإلكتروني والمواقع الإلكترونية حقيقيةً أحياناً، وهو ما يعتمد على مهارة وإتقان المجرمين السيبرانيين لعملهم. ولكن غالباً ما تكون الروابط المُضمنة في الرسائل الاحتيالية غير صحيحة، حيث تحتوي على أخطاء إملائية، أو تعيد توجيهك لموقع مختلف.
أدخل عنوان الويب الخاص بك مباشرةً في متصفح الويب. إذا كان البريد الإلكتروني يحتوي على رابط، فمن الأفضل أن تمرر المؤشر فوقه للتأكد من صحته قبل النقر عليه. فإذا كان صحيحاً، ابحث عن الرابط بنفسك بدلاً من الارتباط بموقع، فقد تبدو المواقع الخطرة متطابقة تماماً مع نظيرتها الأصلية.
تابعوا آخر أخبارنا المحلية وآخر المستجدات السياسية والإقتصادية عبر Google news
