أنظمة الذكاء الاصطناعي ونماذج الذكاء الاصطناعي العامة

• Regulation (EU) 2024/1689 — Artificial Intelligence Act, Articles 22 and 54
• Regulation (EU) 2019/1020 — market surveillance

من يجب أن يعيّن

يجب على مقدمي الخدمات المقيمين خارج الاتحاد الذين يطرحون أنظمة ذكاء اصطناعي عالية المخاطر في سوق الاتحاد أو يقومون بتشغيلها هناك تعيين ممثل معتمد في الاتحاد بموجب تفويض كتابي قبل القيام بذلك. وينطبق نفس الشيء بموجب المادة 54 على مقدمي نماذج الذكاء الاصطناعي العامة الموضوعة في سوق الاتحاد. يتحمل مقدمو الخدمات المقيمون في الاتحاد واجبات أخف. يصبح مقدمو الخدمات مقدماً — مع الالتزامات الكاملة — إذا وضعوا اسمهم على نظام عالي المخاطر، أو قاموا بتعديله بشكل كبير، أو غيروا غرضه المقصود بحيث يصبح عالي المخاطر.

الحدود والإعفاءات

تنطبق الممارسات المحظورة في المادة 5 على الجميع دون حد أدنى. ترتبط واجب التمثيل بالأنظمة عالية المخاطر، وهي تلك التي تقع تحت تشريعات المنتجات في الملحق الأول أو المدرجة في الملحق الثالث: القياسات الحيوية، البنية التحتية الحرجة، التعليم، التوظيف وإدارة العمال، الوصول إلى الخدمات الأساسية بما في ذلك تقييم الائتمان، إنفاذ القانون، الهجرة ومراقبة الحدود، وإدارة العدالة. تمتلك النماذج العامة نظامها الخاص، مع التزامات إضافية للنماذج التي تقدم مخاطر نظامية تتجاوز حد الحوسبة.

ما يجب أن يظهر على الملصق

ليس هناك ملصق مادي لمعظم الأنظمة. يجب أن يظهر اسم المزود، الاسم التجاري أو العلامة التجارية والعنوان، وعناوين الممثل المعتمد، على النظام، أو تغليفه أو الوثائق المرفقة به، وفي تعليمات الاستخدام. تحمل الأنظمة عالية المخاطر التي تعتبر منتجات بموجب الملحق الأول علامة CE. يجب أن تكشف الأنظمة التي تتفاعل مع الأشخاص أنها ذكاء اصطناعي، ويجب أن يتم وضع علامة على المحتوى الاصطناعي بتنسيق يمكن قراءته آلياً.

حقول المنصات

لا يوجد حقل سوق حتى الآن، لكن استبيانات الشراء في الاتحاد الأوروبي تسأل بالفعل من هو الممثل بموجب المادة 22، وما إذا كان النظام مصنفاً على أنه عالي المخاطر، وكيف يتم الوفاء بالتزامات الشفافية. يطلب المشترون من الشركات بشكل متزايد هذا قبل التعاقد، قبل الموعد النهائي في أغسطس 2026.

المستندات الواجب الاحتفاظ بها

وثائق فنية بموجب الملحق الرابع، محفوظة لمدة عشر سنوات. نظام إدارة المخاطر يعمل عبر دورة الحياة. وثائق حوكمة البيانات تغطي مجموعات بيانات التدريب والتحقق والاختبار. سجلات يتم إنشاؤها تلقائياً. تعليمات للاستخدام تمكن مقدمي الخدمات من الامتثال لالتزاماتهم الخاصة. نظام إدارة الجودة. إعلان المطابقة من الاتحاد الأوروبي والتسجيل في قاعدة بيانات الاتحاد الأوروبي للأنظمة المدرجة في الملحق الثالث. بالنسبة للنماذج العامة، وثائق فنية لمكتب الذكاء الاصطناعي ولمقدمي الخدمات من الدرجة الثانية، سياسة حقوق الطبع والنشر، وملخص عام مفصل بما فيه الكفاية لمحتوى التدريب.

المعايير والاختبارات

تقييم المطابقة بناءً على السيطرة الداخلية لمعظم الأنظمة المدرجة في الملحق الثالث، أو من خلال هيئة معتمدة للأنظمة البيومترية حيث لا يتم تطبيق المعايير الموحدة. تتبع الأنظمة المدمجة في منتجات الملحق الأول مسار تقييم ذلك المنتج. يجب اختبار الدقة والموثوقية والأمن السيبراني والإعلان عن المستويات. يستمر مراقبة ما بعد السوق بعد طرحه في السوق.

المتطلبات اللغوية

تعليمات الاستخدام بلغة يسهل فهمها من قبل مقدمي الخدمات في الدولة العضو المعنية، كما تحدد تلك الدولة. يجب أن تكون الإفصاحات الشفافة للأفراد باللغة التي يمكنهم فهمها بشكل معقول.

متى ينطبق

تحظر الالتزامات وواجبات معرفة الذكاء الاصطناعي منذ 2 فبراير 2025. التزامات نموذج الذكاء الاصطناعي العام منذ 2 أغسطس 2025، مع وجود نماذج بالفعل في السوق قبل ذلك التاريخ حتى أغسطس 2027. الالتزامات عالية المخاطر بموجب الملحق الثالث من 2 أغسطس 2026. الأنظمة عالية المخاطر المدمجة في المنتجات المنظمة بموجب الملحق الأول من 2 أغسطس 2027.

مدة حفظ المستندات

وثائق فنية، إعلان المطابقة ووثائق إدارة الجودة لمدة عشر سنوات بعد طرح النظام في السوق. سجلات لمدة ستة أشهر على الأقل ما لم يتطلب قانون آخر فترة أطول. يحتفظ الممثل المعتمد بنسخة من التفويض والوثائق لمدة عشر سنوات ويجب أن يقدمها عند الطلب.

عند عدم الامتثال

حتى 35 مليون يورو أو 7% من إجمالي الإيرادات السنوية العالمية للممارسات المحظورة. حتى 15 مليون يورو أو 3% لانتهاكات معظم الالتزامات الأخرى، بما في ذلك تلك الخاصة بالمقدمي الخدمات والممثلين المعتمدين. حتى 7.5 مليون يورو أو 1% لتقديم معلومات غير صحيحة أو غير مكتملة أو مضللة. يمكن لسلطات مراقبة السوق أيضاً أن تطلب سحب أو استدعاء نظام.

من ينفّذ

سلطات مراقبة السوق الوطنية المعينة من قبل كل دولة عضو، مكتب الذكاء الاصطناعي للنماذج العامة، المجلس الأوروبي للذكاء الاصطناعي، والهيئات المعتمدة حيث ينطبق التقييم من طرف ثالث.

أين يقع الحد الفاصل

معظم برامج الأعمال ليست عالية المخاطر، وتصنيفها يعتمد على الاستخدام بدلاً من التكنولوجيا: يمكن أن يكون نفس النموذج منخفض المخاطر في نشر واحد وعالي المخاطر في آخر وفقاً للملحق الثالث. يتحمل برنامج الدردشة واجبات شفافية فقط. لكن الذكاء الاصطناعي المستخدم في فحص المتقدمين للوظائف، أو تقييم الجدارة الائتمانية أو تخصيص الوصول إلى الخدمات العامة يعتبر عالي المخاطر بغض النظر عن مدى بساطة النموذج. يمكن للممثل المعتمد إنهاء التفويض إذا اعتقد أن المزود يتصرف بما يتعارض مع اللائحة، ويجب عليه بعد ذلك إبلاغ السلطة — وهي واجب لا يوجد له نظير في المادة 27 من اللائحة العامة لحماية البيانات.

أسئلة تُطرح علينا

نستخدم الذكاء الاصطناعي لكننا لا نبنيه - هل نحن مزودون؟

عادةً ما تكونون مقدمي خدمات، مع واجبات أخف. تصبحون مزودين إذا وضعتم اسمكم على نظام عالي المخاطر، أو قمتم بتعديله بشكل كبير، أو غيرتم غرضه المقصود بحيث يصبح عالي المخاطر.

هل ينطبق قانون الذكاء الاصطناعي على نموذج نستضيفه خارج الاتحاد الأوروبي؟

نعم إذا تم استخدام المخرجات في الاتحاد، أو إذا تم طرح النظام أو النموذج في سوق الاتحاد. الموقع الفعلي للخوادم ليس هو الاختبار.

هل يكفي وجود ممثل بموجب المادة 27 من اللائحة العامة لحماية البيانات؟

لا. إنهم تعيينات منفصلة بموجب لوائح منفصلة، مع واجبات ووثائق مختلفة، حتى حيث يحتفظ مزود واحد بكليهما.