دستور نيوز
ومع الاعتماد المتزايد على نماذج الذكاء الاصطناعي التوليدية مثل ChatGPT من OpenAI، وGemini من Google، وCopilot من Microsoft، تظهر الهلوسة كتحدي تقني للمستخدمين. “الهلوسة” يقصد بها الإجابات التي يقدمها الذكاء الاصطناعي والتي تبدو واقعية ومقنعة من حيث الصياغة، ولكنها غير صحيحة أو لا أساس لها من الواقع. كما أنها تعتبر خللاً أساسياً في بنية هذه الأنظمة، حيث أنها لا تعتمد في إجاباتها على التحقق من المعلومات، بل على التنبؤ بالكلمات التالية بناءً على الأنماط اللغوية من بيانات التدريب. ونتيجة لذلك، قد تكون الإجابة متماسكة لغويا، لكنها بعيدة عن الحقيقة. وللتعامل بوعي مع هذه النماذج الذكية، من الضروري أن يتعلم المستخدمون التعرف على العلامات التحذيرية التي تشير إلى وجود “الهلوسة”. تفاصيل بلا مصادر من أكثر مظاهر “الهلوسة” إثارة للقلق، استخدام الذكاء الاصطناعي لتفاصيل دقيقة للغاية تبدو حقيقية للوهلة الأولى. وقد يشتمل الرد على تواريخ وأسماء وأرقام وحتى أسماء المقالات أو المؤلفين، مما يعزز الشعور بالمصداقية. لكن هذه التفاصيل قد تكون ملفقة بالكامل، وبينما يعتمد الذكاء الاصطناعي على توليد محتوى يحاكي الأنماط اللغوية التي تعلمها، فإنه قد يخرج بأسماء ومعلومات تتطابق مع بنية الإجابة الصحيحة، دون الاستناد إلى مصدر فعلي. فمثلاً قد يذكر اسم شخصية حقيقية، ويضيف إليها مواقف أو أقوال مخترعة، مما يصعب على القارئ تمييز الحقيقة من عدمها، خاصة إذا لم يكن لديه خلفية عن الموضوع. ولهذا السبب، من الضروري التحقق من أي معلومات قد تؤثر على قرارات المستخدم. وإذا لم يتمكن من العثور على المصدر أو الاسم أو التاريخ المذكور في أي مكان آخر، فربما يقرأ “هلوسة” ينتجها النظام الذكي. إن النبرة الواثقة بشكل غير مبرر “الهلوسة” لا تأتي دائمًا ملفوفة بالشك أو التردد. على العكس من ذلك، غالبا ما يقدم الذكاء الاصطناعي إجاباته بطريقة واثقة وسلسة، حتى عندما تكون المعلومات خاطئة. ويرجع ذلك إلى آلية النمذجة التي تم تحسينها لإنتاج نصوص تبدو منطقية ومتسقة لغويا. فبدلاً من الاعتراف بنقص المعرفة أو التشكيك في المعلومات، فإنهم يميلون إلى تقديم إجابات شاملة تشير إلى المعرفة الكاملة. في حين أن الخبراء البشريين قد يستخدمون تعبيرات مثل “لست متأكداً” أو “هذا مطروح للنقاش”، فإن “روبوتات” الذكاء الاصطناعي نادراً ما تستخدم هذه الصيغ، على الرغم من أنها بدأت مؤخراً في إظهار بعض الحذر في الإصدارات الأخيرة. في مواضيع مثل الطب أو العلوم أو القضايا القانونية، حيث تتم مناقشة الحقائق أو تتغير بمرور الوقت، قد يكون تقديم إجابة محددة مؤشرا على “الهلوسة”، لأن النموذج ربما ملأ الفراغ المعرفي بسرد غير صحيح بدلا من الإشارة إلى الخلاف أو عدم الوضوح. المراجع الوهمية في كثير من الأحيان، سيزودك الذكاء الاصطناعي بإجابات تتضمن مراجع وأسماء مصادر تبدو موثوقة، ولكن عندما تتحقق منها تكتشف أنها غير موجودة. ويشكل هذا النوع من “الهلوسة” خطرا جسيما، خاصة في الأوساط الأكاديمية أو المهنية. قد يقوم الطالب بإعداد مراجعة للأدبيات بناءً على مجموعة من المراجع، ليكتشف لاحقًا أن جميعها وهمية. غالبًا ما تتم كتابة هذه المراجع بعناية وتتضمن أسماء المجلات الأكاديمية وأسماء المؤلفين وأرقام الصفحات، مما يزيد من صعوبة اكتشاف زيفها دون إجراء بحث متعمق. ولتفادي هذا الفخ، عليك التحقق من صحة أي ورقة علمية أو مرجع أو اسم المؤلف من خلال قواعد بيانات موثوقة أو من خلال محركات البحث المباشرة، وإذا لم تظهر نتائج حقيقية، فمن المحتمل أنك تتعامل مع “مرجع غير موجود” أنشأه النموذج ليعطي إجابته طابعا أكاديميا. عدم الاتساق الداخلي في الإجابات حتى لو بدت الإجابات صحيحة ظاهريًا، فإن عدم الاتساق بين الإجابات قد يكون علامة قاطعة على وجود “الهلوسة”. على سبيل المثال، إذا سألت ChatGPT سؤالاً محددًا، وتلقيت إجابة مفصلة، ثم طرحت سؤال متابعة يتعلق بالإجابة السابقة، ووجدت أن النمط يناقض نفسه، فهناك احتمال كبير أن تكون إحدى الإجابتين خاطئة. وتعتبر هذه الطريقة فعالة في كشف «الهلوسة»، لأن النموذج لا يملك قاعدة بيانات حقيقية يمكن الرجوع إليها للتأكد من الاتساق، وبالتالي فإن التناقض في الإجابات، خاصة في سياق واحد، يكشف هشاشة المحتوى وغياب الأساس المعرفي الحقيقي. منطق غير واقعي في بعض الأحيان، حتى لو بدت الإجابة متماسكة لغويا، فإن محتواها قد يصطدم بالواقع أو العقل. ومن المعروف أن نماذج الذكاء الاصطناعي لا تفكر مثل البشر، بل تتنبأ فقط بالتسلسلات اللغوية. ولذلك فإن بعض الإجابات قد تبدو معقولة على الورق، ولكنها تنهار عندما تخضع للاستدلال المنطقي أو الخبرة العملية. وفي إحدى الحوادث الشهيرة، اقترح أحد نماذج الذكاء الاصطناعي إضافة الغراء إلى صلصة البيتزا لجعل التصاق الجبن أفضل، ورغم أن هذا قد يبدو منطقيا لغويا، إلا أنه ينتهك أبسط المبادئ الأساسية للطهي والصحة العامة. وينتج هذا النوع من الأخطاء عن اعتماد النماذج على بنية لغوية مبنية على أنماط محفوظة، وليس على فهم فعلي للعالم أو القوانين الفيزيائية والبيولوجية. في الختام، تعتبر “الهلوسة” جزءًا لا يتجزأ من طبيعة نماذج الذكاء الاصطناعي الحالية، وطالما تعتمد هذه النماذج على التنبؤ بالكلمات وليس التحقق من الحقائق، فإن هذه المشكلة ستستمر في الظهور. ومن هنا، أصبحت القدرة على التمييز بين المحتوى الحقيقي والمزيف مهارة أساسية في العصر الرقمي. لا ينبغي الوثوق بالإجابات بشكل أعمى، بل يجب التعامل معها بعين ناقدة، ويجب ممارسة التحقق المستمر، خاصة في المواضيع الحساسة. متعلق ب
#تحذيرات #من #الهلوسة #يجيب #عليها #الذكاء #الاصطناعي
تحذيرات من “الهلوسة” يجيب عليها الذكاء الاصطناعي
– الدستور نيوز
اخبار التكنولوجيا – تحذيرات من “الهلوسة” يجيب عليها الذكاء الاصطناعي
المصدر : www.enabbaladi.net