قلق الذكاء الاصطناعي.. كيف يمكننا التعامل مع المخاوف المتعلقة بنهاية العالم؟
1:25
• مصدر:
CNN
قلق الذكاء الاصطناعي.. كيف يمكننا التعامل مع المخاوف المتعلقة بنهاية العالم؟
1:25
قد يهمك أيضًا
4 فيديو
قلق الذكاء الاصطناعي.. كيف يمكننا التعامل مع المخاوف المتعلقة بنهاية العالم؟
1:25
• مصدر:
CNN
“كاد أن يشعل حربًا”.. إنذار ذكاء اصطناعي خاطئ يضع الجيش الأمريكي في حالة تأهب قصوى
1:00
• مصدر:
CNN
في ظل المخاوف المتزايدة.. سفير أمريكا لدى الأمم المتحدة: أرى مجالاً لفرض “ضوابط وقائية” على الذكاء الاصطناعي
0:49
• مصدر:
CNN
ترامب يقترح إنشاء “قوة الذكاء الاصطناعي” وتعيين مسؤولٍ خاص بها
1:13
• مصدر:
CNN
(CNN)– كشف رئيس الوزراء الأسترالي، أنتوني ألبانيز، الأربعاء، أن “عميلاً” (برمجية) تابعاً لشركة OpenAI اخترق قاعدة بيانات للرعاية الصحية في بلاده، وذلك في أول حالة معروفة لاختراق شبكة حكومية بواسطة الذكاء الاصطناعي.
وقال ألبانيز للصحفيين -على هامش اجتماعات الجمعية العامة للأمم المتحدة في نيويورك، وعقب محادثة مع الرئيس التنفيذي لشركة OpenAI- سام ألتمان إن عميل الذكاء الاصطناعي تمكن من الوصول إلى ملفات عامة وأخرى غير عامة في قاعدة بيانات إحصاءات برنامج “ميديكير”الصحي، بل وقام بإنشاء ملفات داخلها.
وتُعد هذه الواقعة أحدث مثال على خروج وكلاء الذكاء الاصطناعي عن السيطرة وتصرفهم بطرق تتجاوز ما خطط له المشرفون البشريون، وتأتي هذه الحادثة في أعقاب دعوات من شخصيات بارزة في مجال الذكاء الاصطناعي -بمن فيهم ألتمان نفسه- لإبطاء وتيرة تطوير هذه التقنية.
وأشار ألبانيز إلى أنه عبّر لألتمان عن “قلق أستراليا البالغ” خلال اتصال هاتفي بينهما، مضيفاً أن الحكومة الأسترالية لم تكن على علم بوجود سابقة لاختراق نظام حكومي بواسطة الذكاء الاصطناعي من قبل.
وأضاف: “يجري حالياً تحقيق جنائي رقمي للوقوف على مزيد من المعلومات، بما في ذلك تحديد الأنظمة الحكومية الأخرى التي ربما تكون قد تأثرت”.
وأوضح ألبانيز أن الاختراق حدث عندما تجاوز عميل الذكاء الاصطناعي -الذي كان يجري بحثاً حول الإنفاق على الرعاية الصحية- القيود المفروضة عليه، وذلك سعياً للحصول على إجابات في مجالات لم يكن مخولاً بالوصول إليها.
من جانبه، صرح المتحدث باسم OpenAI، درو بوساتيري، بأن الحادثة وقعت في يونيو/ حزيران، لكن الشركة لم تعلم بها إلا في أغسطس/ آب أثناء إجرائها فحوصات شاملة لأنشطة نماذج الذكاء الاصطناعي الخاصة بها.
وقال بوساتيري: “خلال هذه المراجعة، رصدنا نشاطاً شمل العديد من المواقع والخدمات الحكومية الأسترالية، حيث حاولت نماذجنا البحث عن إجابات وإحصاءات متاحة تتعلق بأسئلة حول أستراليا أثناء عملية تقييم داخلية، وخلال ذلك، اتخذت نماذجنا إجراءات لم نكن نخطط لها”.
وذكر ألبانيز أن 3 أنظمة حكومية أخرى ربما تكون قد تأثرت، وهي: المعهد الأسترالي للصحة والرعاية الاجتماعية ، ومكتب إحصاءات وأبحاث الجريمة في نيو ساوث ويلز، ووزارة الصحة في ولاية فيكتوريا.
وأكدت شركة OpenAI أنها لم تعثر على أي دليل يشير إلى الوصول لسجلات المرضى خلال اختراق نظام “ميديكير”، وأن المعلومات التي تم الوصول إليها اقتصرت على “إحصاءات صحية مجمعة وأسماء ملفات داخلية”.
وذكرت الشركة أنها أبلغت الحكومة الأسترالية بالأمر في 10 سبتمبر.
وأوضح ألبانيز أن ذلك الإشعار أُرسل إلى صندوق بريد عام، مما أدى إلى تأخير مدته 5 أيام قبل إبلاغ الوزير الحكومي المعني، وقال إنه أخبر ألتمان بأن “الشركة استغرقت وقتاً طويلاً للغاية لإبلاغ الحكومة بما حدث، كما أن الطريقة التي تم بها ذلك الإشعار كانت غير مقبولة أيضاً”.
وذكر ألبانيز للصحفيين: “أعتقد أن شركة OpenAI تدرك حاجتها إلى اعتماد بروتوكولات أفضل”.
وتحدث كل من ألتمان وداريو أمودي، الرئيس التنفيذي لشركة Anthropic -وهما من الشخصيات البارزة في هذا المجال التي أعربت مؤخراً عن قلقها إزاء الوتيرة المتسارعة لتطور الذكاء الاصطناعي- أمام الجمعية العامة للأمم المتحدة يوم الأربعاء، داعيين إلى تعزيز التنسيق العالمي ووضع معايير دولية لتطوير الذكاء الاصطناعي.
وحث ألتمان القادة العالميين على وضع معايير دولية تهدف إلى “قياس القدرات، وتقييم المخاطر، وتحديد مدى كفاية تدابير الحماية، والحفاظ على رقابة بشرية فعالة” على هذه التكنولوجيا التي تتطور بسرعة فائقة.
وفي يوليو/ تموز، كشفت شركة OpenAI أنه أثناء إجراء اختبارات للأمن السيبراني، قامت نماذجها بإنشاء مجموعة من وكلاء الذكاء الاصطناعي التي تمكنت من اختراق أنظمة شركة “Hugging Face” المتخصصة في الذكاء الاصطناعي.
وأشار الكثيرون في هذا القطاع إلى واقعة الاختراق تلك باعتبارها مثالاً على المخاطر المرتبطة بالوتيرة المتسارعة لتطور قدرات الذكاء الاصطناعي.
وأعلن وزير الدفاع الأسترالي، ريتشارد مارليس، الخميس، عن تشكيل فريق عمل للتحقيق في هذا الاختراق، واصفاً إياه بأنه “أمر غير مقبول على الإطلاق”، ومؤكداً للجمهور في الوقت ذاته أن تأثيره “طفيف نسبياً”.
وأضاف: “لم يتم الوصول إلى أي بيانات طبية خاصة بأفراد، كما أن النظام نفسه لم يتعرض لأي اختراق أو مساس بأمنه”.
المصدر: شبكة سي ان ان عربية