بناء الذكاء الاصطناعي بمسؤولية لخدمة البشرية: مهمة من أجل الابتكار الآمن
ملخص موثق لما توضحه Google DeepMind عن الحوكمة والسلامة والمسؤولية؛ لا يمثل ضماناً لسلامة أي نموذج أو منتج.
الوسوم
ملخص سريع
ملخص موثق لما توضحه Google DeepMind عن الحوكمة والسلامة والمسؤولية؛ لا يمثل ضماناً لسلامة أي نموذج أو منتج.
بناء الذكاء الاصطناعي بمسؤولية لخدمة البشرية: مهمة من أجل الابتكار الآمن
تقول Google DeepMind إن هدفها هو بناء الذكاء الاصطناعي بمسؤولية لخدمة البشرية. تشرح هذه الصفحة ما تقوله المؤسسة عن نهجها المنشور في المسؤولية والسلامة، ولا تقدم ذلك بوصفه ضماناً مستقلاً لسلامة كل نموذج أو منتج.
ما الذي تؤكده Google DeepMind؟
تصف صفحة «Responsibility & Safety» نهجاً يرتكز على الحوكمة المسؤولة والبحث والأثر. وتقول إن فرقها تقيم الأنظمة عبر طيف من المخاطر المرتبطة بالذكاء الاصطناعي، مسترشدة بمبادئ Google للذكاء الاصطناعي. كما تذكر مجلس المسؤولية والسلامة الداخلي، الذي يراجع البحوث والمشاريع والتعاونات ذات الأثر الكبير، ومجلس سلامة الذكاء الاصطناعي العام الذي يركز على المخاطر الشديدة المحتملة من أنظمة أكثر قدرة في المستقبل.
هذه معلومات عن نهج معلن وعمليات داخلية موصوفة من المؤسسة نفسها. وهي لا تثبت أن أي تطبيق معين خالٍ من المخاطر ولا تغني عن الوثائق والتقييمات الخاصة بذلك التطبيق.
السلامة والأمن والخصوصية
تقول Google DeepMind إن السلامة تشمل الحوكمة والبحث والتخفيفات التقنية، وإنها تعمل على الأمن والخصوصية مع توسع قدرات الأنظمة. يوضح تحديث القمة العالمية لسلامة الذكاء الاصطناعي لعام 2023 أن المؤسسة ناقشت التقييمات واختبارات الفريق الأحمر والإبلاغ عن النماذج والضوابط الأمنية بوصفها أجزاء من نهجها.
وتؤكد الصفحات نفسها أن المخاطر تعتمد على النموذج وحالة الاستخدام. لذلك لا يمكن تحويل وصف عام للحوكمة إلى وعد بأن نظاماً ما مناسب لقرار طبي أو مالي أو قانوني.
إطار سلامة النماذج المتقدمة
في مايو 2024 قدمت Google DeepMind «Frontier Safety Framework»، وهو بروتوكولات لتحديد القدرات المستقبلية التي قد تسبب ضرراً شديداً ووضع آليات للكشف والتخفيف. وصفته المؤسسة بأنه إطار استكشافي يتوقع أن يتغير مع التعلم والتنفيذ. وهذا يعني أن الإطار منشور كنهج متطور، لا كمعيار عالمي أو شهادة امتثال.
كيف تُقرأ هذه المصادر؟
إذا كان فريق ما يقيم نظام ذكاء اصطناعي، فالمعلومات المفيدة هي التحقق من وثائق المنتج المحددة، وحدود النموذج، والتقييمات المتاحة، والبيانات التي ستعالج، وخطوات الموافقة والمساءلة في الاستخدام الفعلي. قد تلهم مبادئ مؤسسة بحثية هذا العمل، لكنها لا تحل محل اختبار النظام في سياقه.
الخلاصة
المعلومة الموثقة محددة: Google DeepMind تنشر نهجاً يربط الحوكمة والبحث والأثر في مسؤوليتها وسلامتها، وتصف أطر عمل لمخاطر النماذج المتقدمة. أما سلامة أي استخدام محدد فتتطلب أدلة ووثائق واختبارات تخص ذلك الاستخدام.
