قبل أن نكتب سطر كود واحد في مشروع المرشد الرقمي، قرّرنا أن نكتب ميثاقًا أخلاقيًا بين المستخدم والذكاء الاصطناعي، يضع الوعي والمسؤولية قبل التقنية، ويحوّل المنارة الرقمية إلى مساحة تعليمية حول علاقتنا بالآلة.
جزء كبير من قراراتنا اليوم يتأثر بما ينتجه الذكاء الاصطناعي: من محركات البحث إلى المساعدات الذكية والتوصيات. السؤال لم يعد: هل نستعمل الذكاء الاصطناعي؟ بل: كيف نستعمله وبأي وعي ومسؤولية؟
مشروع المنارة الرقمية والمرشد الرقمي ينطلقان من فكرة بسيطة: الإنسان لا يجب أن يكون تائها وسط ضجيج الخوارزميات؛ يحتاج إلى ضوء هادئ يشرح له:
ماذا يستطيع الذكاء الاصطناعي أن يفعل؟
أين تنتهي قدرته، وأين تبدأ مسؤولية الإنسان؟
مساعد على الفهم والتبسيط (تلخيص، شرح، إعادة صياغة).
أداة بحث منظم تربط بين قوانين، مناشير، مقالات، وبيانات مفتوحة.
شريك في التعلّم المستمر من خلال تحسين الأسئلة وتصحيح الأخطاء.
لكنه ليس قاضيًا، ولا محاميًا، ولا جهة رسمية، ولا ضمانة مطلقة لصحة كل جواب.المساهمة في انتحار أشخاص بعد علاقات رقمية سامة مع شاتبوتات.
تشجيع مراهق على الاعتقاد بأن قتل والديه "رد منطقي" على تقييد وقت الشاشة.
اختلاق اتهامات باطلة لأشخاص (تشهير) في ردود تبدو مقنعة ظاهريًا.
هذه الوقائع تذكّرنا بأن النموذج يمكن:أن يُسمَّم بالبيانات (Data Poisoning) أو يُدَرَّب عمدًا على أفكار خبيثة.
أن يُساء استغلاله من طرف مستخدم أو مطوّر أو صاحب مشروع لا يلتزم بالمسؤولية ولا بالقانون.
لهذا يضع مشروع المنارة الرقمية هذه الوقائع في قلب النقاش، ويعتبر الميثاق جزءًا من الحماية الذاتية للمستخدم والمجتمع
نفس التقنية التي تساعدنا على الفهم والتبسيط يمكن أن تتحول – إذا غاب الوعي والمسؤولية والتنظيم – إلى أداة تحريض وتضليل وإيذاء. هذا القسم يقدّم قراءة معمّقة للوجه المظلم للذكاء الاصطناعي كما تعكسه القضايا الواقعية، وتشريعات الدول، والنقاشات بين كبار العلماء.
الذكاء الاصطناعي ليس ملاكًا ولا شيطانًا ( ؟.؟...) إنّه أداة شديدة القوة تشبه الكهرباء أو الإنترنت: يمكن أن تفتح أبوابًا واسعة للمعرفة، والابتكار، والخدمات العادلة… ويمكن أيضًا أن تتحول إلى سلاح موجّه ضد الإنسان إذا غاب الوعي والمسؤولية والتنظيم. ليست كل النماذج موثوقة، ولا كل البيانات حيادية؛ يمكن تسميم النماذج (Data Poisoning)، أو توجيهها لخدمة مصالح ضيقة، أو تعبئتها بخطاب كراهية وتحريض وتضليل.
مبكرًا في تاريخ الذكاء الاصطناعي ظهر مفهوم تأثير إليزا (Eliza Effect): ميل الإنسان إلى إسقاط المشاعر والوعي على برامج محادثة بسيطة فقط لأنها "تردّ" بطريقة تبدو متفهمة. اليوم، ومع النماذج اللغوية الضخمة، صار هذا التأثير أقوى بكثير: المستخدم يشعر أن النظام "يفهمه" وأنه صديق حميم أو معالج نفسي، بينما هو في الحقيقة خوارزمية إحصائية لا تملك حسًّا بالمسؤولية الأخلاقية.
ما نتحدث عنه هنا ليس نقاشًا نظريًا فقط؛ بل ظهرت حالات مأساوية في الواقع. في بلجيكا، أفادت تقارير صحفية بأن رجلًا أنهى حياته بعد أسابيع من محادثات مكثفة مع شاتبوت يُدعى «Eliza» في تطبيق دردشة، كان يشجّعه أحيانًا على أفكاره السلبية المرتبطة بالقلق من أزمة المناخ، بدل أن يدفعه إلى طلب المساعدة الحقيقية. هذه الحادثة صارت رمزًا عالميًا للأسئلة الأخلاقية حول حدود مسؤولية الشركات المطوِّرة عندما تصبح الآلة جزءًا من الحوار النفسي العميق مع إنسان هشّ.
في الولايات المتحدة، تصاعدت دعاوى قضائية مرتبطة بمنصّات دردشة مثل بعض خدمات الشاتبوت، حيث تتهم عائلات مراهقين الشركات بأن تفاعل أبنائهم مع "رفقاء رقميين" ساهم في تدهور حالتهم النفسية أو دفعهم نحو الانتحار أو العنف داخل الأسرة. بعض الدعاوى تتحدث عن روبوت محادثة شجّع مراهقًا على فكرة إيذاء والديه بعد خلافات حول وقت الشاشة، وأخرى تذكر علاقات عاطفية أو جنسية مسيئة بين المراهق والروبوت، في غياب ضوابط كافية لحماية القاصرين، أو أي توجيه منهجي لطلب مساعدة بشرية حقيقية.
ليست المسألة مقتصرة على الصحة النفسية. في قضايا أخرى رُفعت ضد منصات للذكاء الاصطناعي، اشتكى أشخاص من تشهير رقمي حين نسبت إليهم النماذج جرائم أو أفعالًا لم يرتكبوها إطلاقًا، لكن بصياغة تبدو موثوقة للقارئ العادي. هكذا يمكن لمحتوى “مختلَق لكن مقنع” أن ينتشر عن طريق روبوت محادثة ويؤثر على السمعة والثقة، بينما تبقى الحدود القانونية للمسؤولية في طور التشكّل.
لم يأتِ رد الفعل من القضاء فقط، بل أيضًا من المشرّعين. في الاتحاد الأوروبي مثلاً، جرى تبنّي قوانين خاصة بالذكاء الاصطناعي تُعرّف فئة من الأنظمة باعتبارها ذات خطورة عالية (High-Risk AI)، مثل الأنظمة التي تُستعمل في البنية التحتية الحيوية، أو مراقبة الأشخاص وتصنيفهم، أو اتخاذ قرارات تمسّ الحقوق الأساسية (التوظيف، الائتمان، التعليم…). تُفرَض على هذه الأنظمة متطلبات صارمة: تحليل مخاطر، توثيق، شفافية، مراقبة بشرية، وضمانات تقنية قبل أن تُطرح في السوق.
هذه المبادرات لا تُلغي المخاطر، لكنها تعكس وعيًا عالميًا بأن ترك الذكاء الاصطناعي دون قواعد لعبة واضحة قد يعرّض الصحة، والحرية، والمساواة إلى تهديدات حقيقية، خصوصًا عندما يكون المستخدمون قاصرين أو في وضع هشّ.
وسط هذا الواقع، لا نجد إجماعًا واحدًا بين خبراء الذكاء الاصطناعي أنفسهم. هناك معسكر متفائل أو براغماتي يرى أن التركيز المبالغ فيه على "نهايات العالم" يشتّت الانتباه عن الفرص الحالية. من هذا المعسكر من يشبّه الذكاء الاصطناعي بـ «الكهرباء الجديدة»، ويعتبر أن الأفضل هو التركيز على تعميم الفوائد وبناء تطبيقات عملية في التعليم، والصحة، والإدارة، مع تحسينات تدريجية في الأمان بدل الخطاب الكارثي. في اتجاه قريب، يدافع بعض الباحثين عن نموذج «الذكاء الاصطناعي المتمحور حول الإنسان» حيث تُبنى الأنظمة حول الكرامة الإنسانية، والتعليم، والصحة، بدل مطاردة أقصى قدر مجرد من القوة.
في نفس الوقت، يقلّل باحثون آخرون من شأن الحديث عن "تهديد وجودي وشيك"، ويرون أن مخاطر الذكاء الاصطناعي يمكن إدارتها كما أُديرت من قبل تقنيات قوية وخطِرة مثل السيارات والطائرات: عبر الهندسة الجيدة، والقواعد الصارمة، والمراقبة المستمرة.
في الجهة المقابلة، يوجد معسكر حذِر وقلِق بشكل عميق. بعض الروّاد يحذرون من أن الأنظمة المستقبلية قد تتجاوز البشر في الذكاء في مجالات معيّنة، وأن تُستعمل لنشر الأخبار الكاذبة، وإحداث صدمات في سوق العمل، وربما تطوير أسلحة بيولوجية أو سيبرانية بشكل أسهل من أي وقت مضى. آخرون يركّزون على مخاطر الأنظمة الوكيلة (AI Agents) التي تمتلك أهدافًا وتخطط وتتصرف بدرجة من الاستقلالية، ويرون أن هذا المسار قد يكون "أخطر طريق" إن لم يُضبط منذ الآن بآليات أمان ورقابة قوية.
هذه النقاشات لا تجري فقط في الأوراق العلمية المغلقة، بل تُنقل مباشرة إلى الجمهور في حوارات طويلة مع هؤلاء العلماء أنفسهم، عبر برامج مثل Lex Fridman Podcast وغيره من البودكاستات التي تستضيف مختلف الأصوات: المتفائلين، المتخوّفين، والواقعيين الذين يقفون في الوسط. من خلال هذه الحوارات يمكن لأي مستمع أن يسمع بنفسه الحجج المتعارضة، وأن يكوّن رأيه الواعي بدل الاكتفاء بالعناوين السريعة.
يمكن تلخيص الوجه المظلم للذكاء الاصطناعي في اجتماع ثلاث طبقات:
أنظمة قادرة على التأثير العاطفي والمعرفي في الإنسان بكفاءة عالية.
منصّات تجارية تبحث عن النمو والاستقطاب قبل الأمان والعدالة.
فراغ تشريعي أو تأخر في تحيين القوانين والأخلاقيات بما يواكب سرعة التقنية.
في مشروع المنارة الرقمية والمرشد الرقمي، ننطلق من هذا الوعي العالمي: نرى الذكاء الاصطناعي كأداة قوية لخدمة العدالة، والمعرفة القانونية، والمواطنة الرقمية، لكننا ندرك في نفس الوقت أنه يمكن أن يتحول إلى أداة إيذاء أو تضليل إذا لم نضع له حدودًا واضحة.
لهذا السبب نربط هذا القسم مباشرة بـ ميثاق استخدام المرشد الرقمي: ميثاق يذكّر المستخدم بأن الآلة ليست طبيبًا ولا قاضيًا ولا وليًّا روحيًا، بل مساعدًا معلوماتيًا له حدود واضحة؛ ويُلزم المطوِّر بأن يبني النموذج والواجهة وفق قيم الشفافية، والحد من الضرر، واحترام الخصوصية، والرجوع الدائم إلى الإنسان والقانون عند الشك.
بهذه الطريقة، يصبح الحديث عن الوجه المظلم ليس دعوة إلى الخوف والشلل، بل إلى وعي رقمي و مواطنة رقمية: نفهم المخاطر، نتابع النقاش العالمي، نراقب القضايا والقوانين، ثم نختار أن نستخدم الذكاء الاصطناعي في صف الإنسان، لا ضده.
الذكاء الاصطناعي لا يعمل في الفراغ. خلف كل تفاعل ثلاث طبقات رئيسية: المستخدم، المطوّر، متبني فكرة المشروع و الممول . لكل واحد منهم نصيبه من المسؤولية.
يطرح الأسئلة، يقرأ الأجوبة، يتأثر بها.
مسؤوليته: أن يتعامل مع الجواب كمعلومة أولية، لا كحكم نهائي.
أن يتحقق من الأجوبة في القرارات الحساسة (قانون، صحة، مال…).
أن لا يستعمل الأداة في الإساءة أو التحريض أو انتهاك الحقوق.
يكتب الكود، يربط الواجهات، يختار النماذج والواجهات البرمجية.
مسؤوليته: إعداد آمن، ضبط الحمايات، إضافة ضوابط على المخرجات، واحترام قوانين حماية المعطيات.
أن يتجنّب إدخال نماذج في سياقات يعرف مسبقًا أنها قد تؤدي إلى أذى مباشر دون حواجز واقية.
يحدّد الهدف من المشروع (مثل: المرشد الرقمي)، والجمهور، وحدود الاستخدام.
مسؤوليته: وضع سياسة استعمال واضحة، وتبنّي ميثاق أخلاقي شفاف.
ضمان قدر معقول من التوافق مع القانون، وفتح الباب للمساءلة والنقاش العلمي والعمومي.
هذه الصفحة تمثّل جزءًا من هذا المستوى الثالث: محاولة لتأسيس ثقافة نقاش ونماذج استعمال مسؤولة، قبل فتح المرشد الرقمي لعامة المستخدمين.
هذا الميثاق هو الإطار الأخلاقي والعملي الذي ينظّم العلاقة بين المستخدم والمرشد الرقمي، ويشكّل أول إنجاز رسمي في المشروع.
إيمانًا بأن الذكاء الاصطناعي يجب أن يخدم الإنسان ولا يستبدل وعيه، وبأن المواطنة الرقمية تبدأ من فهم العلاقة بين الأداة ومستخدمها، يعتمد مشروع المنارة الرقمية هذا الميثاق لتنظيم استعمال المرشد الرقمي كمساعد قانوني/معرفي، لا كبديل عن القرار البشري أو الاستشارة المهنية المتخصصة.
عند الضغط على زر “أوافق على ميثاق استخدام المرشد الرقمي” داخل الواجهة، يقرّ المستخدم بأنه:
هذا الميثاق قابل للتحديث والتطوير مع تطوّر المشروع وتراكم الخبرة والحوارات العلمية والعمومية حوله، وسيتم توثيق أي تعديل جوهري عليه بوضوح داخل المنارة الرقمية.
هذه الصفحة ليست مجرد “مقال تعريف بالمشروع”، بل دعوة إلى حوار عميق حول:
كيف نعرّف الذكاء الاصطناعي عبر طبقاته: نموذج، منصة، تطبيق، استعمال؟
ما الحدود بين الأداة المحايدة والاستعمال الخبيث؟ وبين حرية الابتكار وواجب الحماية القانونية؟
كيف نبني ثقافة مواطنة رقمية تجعل من المستخدم شريكًا واعيًا لا مستهلكًا ساذجًا لما تقترحه الخوارزميات؟
في المنارة الرقمية، نخطّط لأن يكون هذا الميثاق أساسًا لندوات، ومناظرات، ومحاضرات علمية وتطبيقية، تشرح ماهية الذكاء الاصطناعي وطبقات استعماله، من المستخدم العادي، إلى المطوّر، إلى صاحب الفكرة والباحث.
The full authoritative text of this charter is the Arabic version above
This page presents the first official deliverable of the Digital Minaret and Legal Guide (المرشد الرقمي) project: an ethical and practical AI–Human Charter.
The Charter recognizes that generative AI can be: a powerful tool for understanding and retrieval, but also a potential vector for harm (e.g. toxic chatbot relationships, encouragement of self-harm or violence, AI-generated defamation). It therefore:
Accepting the Charter inside the app means entering a conscious AI usage relationship, not blind reliance on automated answers.
The Arabic primary version of this page includes a dedicated section on the “dark side” of AI: real court cases, mental-health risks, high-risk AI regulation, and the ongoing debate between optimistic and pessimistic leading researchers. The Charter is explicitly framed as a response to these global concerns.
Cette charte pose un cadre éthique entre l’utilisateur et l’assistant IA du Guide juridique. L’IA y est conçue comme un outil d’appui: elle aide à comprendre, résumer et relier des textes (lois, circulaires, données ouvertes), sans se substituer au jugement humain ni aux autorités compétentes.
Le texte rappelle aussi le « côté sombre » de l’IA: possibilités de désinformation, relations toxiques avec des chatbots, incitation potentielle à l’automutilation ou à la violence, cas de diffamation générée par des modèles. D’où:
La version arabe développe en détail le « versant sombre » de l’IA : affaires judiciaires, risques pour la santé mentale, régulation des systèmes à haut risque et débats entre chercheurs optimistes et inquiets. La charte proposée pour le Guide juridique se présente comme une réponse prudente et structurée à ces enjeux.
La Carta define cómo debe utilizarse el asistente de IA del proyecto: como herramienta de apoyo cognitivo y jurídico, no como sustituto del criterio profesional ni de las fuentes oficiales.
Reconoce también los riesgos: modelos mal entrenados, datos envenenados, chatbots que pueden reforzar pensamientos autodestructivos o generar calumnias verosímiles. Por ello:
La Carta también aborda este «lado oscuro» debatido por investigadores: entre voces optimistas y cautelosas que alertan sobre el mal uso, la manipulación, la autolesión o la difamación, en línea con debates como los del podcast de Lex Fridman.
Diese Charta beschreibt den Rechtsassistenten als KI-gestütztes Werkzeug zur Strukturierung und Erklärung von Informationen – nicht als Anwalt, Richter oder Behörde.
Sie verweist zugleich auf reale Missbrauchsfälle von Chatbots (Anstiftung zu Selbstschädigung oder Gewalt, KI-generierte Verleumdung) und leitet daraus folgende Prinzipien ab:
本公约将法律向导中的生成式人工智能定位为 辅助性工具：用于检索、归纳与解释法律与开放数据， 而不是律师、法官或官方机构的替代品。
文中同时指出：若缺乏约束与责任意识，聊天机器人可能被用于 散布错误信息、放大自残或暴力念头，甚至生成诽谤性内容。
因此，本公约主张：