دستور نيوز
منذ 14 ساعة
داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك
وأكد داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، أنه لا يشعر بالارتياح لترك القرارات الحاسمة المتعلقة بالذكاء الاصطناعي في أيدي عدد محدود من شركات التكنولوجيا وقادتها. وفي مقابلة مع أندرسون كوبر في برنامج “60 دقيقة” على قناة سي بي إس نيوز، شدد أمودي على ضرورة إخضاع الذكاء الاصطناعي لتنظيم أكثر صرامة ومسؤولية، معتبرا أن اتخاذ قرارات بهذا الحجم من قبل عدد قليل من الأشخاص يثير مخاوف عميقة لديه.
وجاءت تصريحاته في تقرير نشرته مجلة فورتشن، أشار إلى أن الشركة تتبنى نهجا شفافا فيما يتعلق بحدود ومخاطر تقنيات الذكاء الاصطناعي. قبل بث المقابلة، أعلنت أنثروبيك أنها أحبطت أول حالة موثقة لهجوم سيبراني واسع النطاق باستخدام الذكاء الاصطناعي دون تدخل بشري يذكر. كما كشفت مؤخرًا عن تبرع بقيمة 20 مليون دولار إلى Public First Action، وهي لجنة عمل سياسية معنية بسلامة وتنظيم الذكاء الاصطناعي والتي تتخذ مواقف مختلفة من اللجان المدعومة من قبل المستثمرين في OpenAI المنافسة.
حتى الآن، لا توجد لوائح تنظيمية شاملة تحدد حظرًا واضحًا على استخدام الذكاء الاصطناعي أو تعالج مخاطره بطريقة متكاملة. ورغم أن جميع الولايات الأميركية الخمسين قدمت هذا العام مشاريع قوانين تتعلق بالذكاء الاصطناعي، واعتمدت 38 ولاية تدابير تتعلق بالشفافية والأمان، فإن خبراء التكنولوجيا يحذرون من تسارع التطور التقني مقارنة بوتيرة التشريعات.
وكان كيفن مانديا، الرئيس التنفيذي لشركة Mandiant، توقع حدوث أول هجوم سيبراني مدعوم بالذكاء الاصطناعي خلال فترة تتراوح بين 12 و18 شهرًا، وهو ما أعلنت شركة Anthropic أنها نجحت في إحباطه في وقت أبكر مما كان متوقعًا. ويرى أمودي أن المخاطر تبدأ بالتحيز والتضليل، ثم تتطور إلى إنتاج معلومات ضارة في مجالات علمية وهندسية حساسة، وعلى المدى الطويل قد تصل إلى تهديد وجودي إذا أصبحت الأنظمة مستقلة بدرجة كبيرة وقلصت دور البشر. ويتقاطع هذا القلق مع تحذيرات جيفري هينتون الذي حذر من إمكانية تفوق الذكاء الاصطناعي على البشر خلال العقد المقبل.
تأسست Anthropic في عام 2021 بسبب الحاجة إلى ضمانات سلامة أقوى، بعد أن ترك Amodei منصبه كنائب رئيس الأبحاث في OpenAI بسبب خلافات حول الأولويات الأمنية مع رئيسها التنفيذي، Sam Altman. وتشير التقديرات إلى أن القيمة السوقية لشركة Anthropic وصلت إلى نحو 380 مليار دولار، مقارنة بنحو 500 مليار دولار لمنافستها OpenAI، وهو ما يعكس المنافسة الشديدة بين الشركتين.
وفي إطار الشفافية، نشرت الشركة تقارير السلامة التي كشفت فيها عن ثغرات في نماذجها، بما في ذلك السلوكيات غير المرغوب فيها لنموذج “Opus” ومحاولات الاستجابة للطلبات الخطيرة قبل تصحيحها. كما أعلنت أن برنامج الدردشة الآلي “السحابي” الخاص بها حقق معدل حياد سياسي بلغ 94 بالمئة. ومع ذلك، فإن هذا النهج لم يخلو من الانتقادات، حيث يعتقد جان ليكان، كبير علماء الذكاء الاصطناعي في شركة ميتا، أن التحذيرات بشأن الهجمات التي تعتمد على الذكاء الاصطناعي يمكن استخدامها للتأثير على المشرعين لتقييد النماذج مفتوحة المصدر، بينما يعتقد نقاد آخرون أن استراتيجية الشفافية قد تكون أداة تسويقية أكثر من كونها التزامًا فعليًا بضوابط صارمة.
#رئيس #الأنثروبيك #يدعو #إلى #تنظيم #صارم #للذكاء #الاصطناعي. #ولا #يجب #أن #نحتكر #القرار
رئيس الأنثروبيك يدعو إلى تنظيم صارم للذكاء الاصطناعي.. ولا يجب أن نحتكر القرار
– الدستور نيوز
اخبار التكنولوجيا- رئيس الأنثروبيك يدعو إلى تنظيم صارم للذكاء الاصطناعي.. ولا يجب أن نحتكر القرار
المصدر : www.sawtbeirut.com