دستور نيوز
توفر أنظمة الذكاء الاصطناعي التوليدية مجموعة أدوات جديدة قوية تسمح للجهات الإجرامية بالعمل بكفاءة أكبر وعلى المستوى الدولي أكثر من أي وقت مضى، كما يقول فينسينزو سيانكاجليني، أحد كبار الباحثين في مجال التهديدات في شركة تريند مايكرو الأمنية. يضيف إعلانا ويضيف أن معظم المجرمين “لا يعيشون في مخبأ مظلم ويخططون للأشياء.. بل هم أشخاص عاديون يقومون بأنشطة منتظمة تتطلب إنتاجية أيضا”. شهد العام الماضي صعود وسقوط WormGPT، وهو نموذج لغة ذكاء اصطناعي مبني على نموذج مفتوح المصدر، تم تدريبه على البيانات المتعلقة بالبرامج الضارة، وتم إنشاؤه لمساعدة المتسللين، ولم يكن لديه قواعد أو قيود أخلاقية. لكن في الصيف الماضي، أعلن مبتكروه أنهم سيغلقون النموذج بعد أن بدأ يجذب اهتمام وسائل الإعلام. عمليات الاحتيال الذكية توقف مجرمو الإنترنت منذ ذلك الحين عن تطوير نماذج الذكاء الاصطناعي الخاصة بهم. وبدلاً من ذلك، يختارون استخدام الحيل باستخدام الأدوات الموجودة التي تعمل بشكل موثوق. فيما يلي خمس طرق يستخدمها المجرمون للذكاء الاصطناعي الآن: التصيد الاحتيالي هو أكبر حالة استخدام للذكاء الاصطناعي التوليدي بين المجرمين في الوقت الحالي. يتضمن محاولة خداع الأشخاص للكشف عن معلومات حساسة يمكن استخدامها لأغراض ضارة. وجد الباحثون أن ظهور ChatGPT كان مصحوبًا بارتفاع كبير في عدد رسائل البريد الإلكتروني التصيدية. ونقل موقع Technology Review عن سيانكاجليني قوله إن المجرمين قاموا بدمج الخدمات التي تنتج البريد العشوائي، مثل GoMail Pro، مع GPT Chat، مما يسمح لهم بترجمة أو تحسين الرسائل المرسلة إلى الضحايا. على الرغم من أن سياسات OpenAI تمنع الأشخاص من استخدام منتجاتها، مثل GPT Chat، في أنشطة غير قانونية، إلا أنه من الصعب مراقبة ذلك في الممارسة العملية، لأن العديد من الادعاءات التي تبدو بريئة يمكن استخدامها أيضًا لأغراض ضارة. وقال متحدث باسم الشركة: “نحن نعمل باستمرار على جعل نماذجنا أكثر أمانًا وأكثر قوة ضد سوء الاستخدام وعمليات كسر الحماية، مع الحفاظ أيضًا على فائدة النماذج وأداء مهامها”. يقول سيانكاجليني: “كان المتحدثون باللغة الإنجليزية آمنين نسبيًا من المجرمين غير الناطقين باللغة الإنجليزية”. لأنه يمكنك اكتشاف رسائلهم. ليست هذه هي الحال الآن. وبفضل الترجمة الأفضل بواسطة الذكاء الاصطناعي، يمكن للمجموعات الإجرامية المختلفة حول العالم أيضًا التواصل بشكل أفضل مع بعضها البعض. ويكمن الخطر في أنهم قادرون على تنسيق عمليات واسعة النطاق تمتد إلى ما هو أبعد من بلدانهم وتستهدف الضحايا في بلدان أخرى. التزييف العميق للصوت والاحتيال التزييف العميق للصوت والاحتيال. لقد سمح الذكاء الاصطناعي التوليدي بتطوير التزييف العميق بتحقيق قفزة هائلة إلى الأمام، حيث تبدو الصور ومقاطع الفيديو والصوت الاصطناعية الآن أكثر واقعية من أي وقت مضى. وهذا لم يمر دون أن يلاحظه أحد من قبل عالم الجريمة الإجرامي. في وقت سابق من هذا العام، تم الإبلاغ عن تعرض أحد الموظفين في هونغ كونغ للاحتيال بمبلغ 25 مليون دولار بعد أن استخدم مجرمو الإنترنت صورًا مزيفة للمدير المالي للشركة؛ لإقناع الموظف بتحويل الأموال إلى حساب المحتال. يقول Ciancaglini إن فريقه وجد أشخاصًا على منصات مثل Telegram يعرضون “محفظة” للتزييف العميق، ويبيعون خدماتهم مقابل مبلغ زهيد يصل إلى 10 دولارات لكل صورة أو 500 دولار لكل دقيقة من الفيديو. أحد أكثر الأشخاص شهرة بين مجرمي التزييف العميق هو إيلون ماسك. نماذج اللغات الكبيرة مليئة بالثغرات الأمنية. في حين أن مقاطع الفيديو المزيفة العميقة تظل معقدة في صنعها ويسهل على البشر اكتشافها، فإن هذا ليس هو الحال بالنسبة إلى مقاطع الفيديو المزيفة بعمق. فهي رخيصة الثمن ولا تتطلب سوى بضع ثوانٍ من التقاط صوت الشخص من مواقع التواصل الاجتماعي. في الولايات المتحدة، كانت هناك حالات رفيعة المستوى حيث تلقى الأشخاص مكالمات مؤلمة من أحبائهم يقولون إنهم تعرضوا للاختطاف ويطلبون إطلاق سراحهم، فقط ليتبين أن المتصل محتال باستخدام تسجيل صوتي مزيف. انتحال الشخصية وقرصنة عمليات التحقق من الهوية. هناك طريقة أخرى يستخدم بها المجرمون تقنية التزييف العميق وهي اختراق أنظمة التحقق من الهوية الشخصية وتجاوزها. تستخدم البنوك وبورصات العملات المشفرة أنظمة للتحقق من أن عملائها هم أشخاص حقيقيون. يتطلب الأمر من المستخدمين الجدد التقاط صورة لأنفسهم وهم يحملون وثيقة هوية فعلية أمام الكاميرا. لكن المجرمين بدأوا في بيع التطبيقات على منصات التواصل الاجتماعي التي تسمح للناس بالتغلب على هذا المطلب. يتسلل المجرمون من خلال تقديم بطاقة هوية مزيفة أو مسروقة وتركيب صورة مزيفة على وجه شخص حقيقي لخداع نظام التحقق الخاص بكاميرا الهاتف المحمول. تم الإبلاغ عن حالات بيع هذه الخدمات لمواقع العملات المشفرة مقابل مبلغ زهيد يصل إلى 70 دولارًا. كسر قواعد الذكاء الاصطناعي كسر قواعد وأصول عمل الذكاء الاصطناعي. إذا سألت معظم أنظمة الذكاء الاصطناعي عن كيفية صنع قنبلة، فلن تحصل على إجابة مفيدة، لأن شركات الذكاء الاصطناعي وضعت ضمانات مختلفة لمنع نماذجها من نشر معلومات ضارة أو خطيرة. بدلاً من بناء نماذج الذكاء الاصطناعي الخاصة بهم دون هذه الضمانات، وهو أمر مكلف ويستغرق وقتاً طويلاً وصعباً، بدأ مجرمو الإنترنت في تبني اتجاه جديد: كسر الحماية. تأتي معظم النماذج مع قواعد حول كيفية استخدامها. يسمح كسر الحماية للمستخدمين بالتلاعب بنظام الذكاء الاصطناعي لإنشاء مخرجات تنتهك هذه السياسات، على سبيل المثال، لكتابة كود برنامج الفدية، أو إنشاء نص يمكن استخدامه في رسائل البريد الإلكتروني التصيدية. ولمكافحة هذه الاتجاهات التخريبية المتنامية، يتعين على شركات الذكاء الاصطناعي مثل OpenAI وGoogle في كثير من الأحيان إغلاق الثغرات الأمنية التي قد تسمح بإساءة استخدام نماذجها. مراقبة الأشخاص ونشر بياناتهم. مراقبة ونشر البيانات الشخصية. يقول الخبراء إن نماذج لغة الذكاء الاصطناعي تعد أداة مثالية ليس فقط للتصيد الاحتيالي، ولكن أيضًا لجمع المعلومات الشخصية (الكشف عن المعلومات الخاصة وتحديد هوية شخص ما عبر الإنترنت). وذلك لأن نماذج لغة الذكاء الاصطناعي يتم تدريبها على كميات هائلة من بيانات الإنترنت، بما في ذلك البيانات الشخصية، ويمكنها استنتاج المكان الذي قد يتواجد فيه شخص ما، على سبيل المثال. مثال على كيفية عمل ذلك هو أنه يمكنك أن تطلب من برنامج الدردشة الآلي التظاهر بأنه محقق خاص يتمتع بخبرة في جمع البيانات. ثم يمكنك أن تطلب منه تحليل النص الذي كتبه الضحية، واستنتاج المعلومات الشخصية من أدلة صغيرة في هذا النص – على سبيل المثال، عمره بناءً على الوقت الذي ذهب فيه إلى المدرسة الثانوية، أو المكان الذي يعيش فيه بناءً على المعالم التي يذكرها أثناء تنقلاته. . يمكنك نشر هذه المعلومات على الانترنت. وكلما توافرت معلومات أكثر عنهم على الإنترنت، زادت احتمالية التعرف عليهم. اكتشف فريق من الباحثين في أواخر العام الماضي أن نماذج اللغات الكبيرة، مثل GPT-4 وCLOUD، قادرة على استنتاج معلومات حساسة، مثل عرق الأشخاص وموقعهم ومهنتهم، من المحادثات العادية مع الناس. وعلى الرغم من أن وجود هذه الخدمات لا يشير إلى نشاط إجرامي، إلا أنه يشير إلى قدرات جديدة قد تكتسبها الجهات الخبيثة. إذا تمكن الأشخاص العاديون من بناء أدوات مراقبة كهذه، فمن المرجح أن يكون لدى الوكالات الحكومية أنظمة أفضل بكثير.
خمس طرق يستخدمها المجرمون لاستغلال الذكاء الاصطناعي
– الدستور نيوز