يرى المفكر والمؤرخ يوفال هراري أن الذكاء الاصطناعي يمثل تحوّلاً جوهرياً في تاريخ التكنولوجيا، إذ لم يعد مجرّد أداة بيد الإنسان، بل أصبح "وكيلًا مستقلاً" قادراً على اتخاذ قرارات ذاتية، وابتكار أفكار جديدة، وتطوير نفسه دون تدخل بشري.
يشير هراري إلى أن ما يميّز الذكاء الاصطناعي عن الاختراعات السابقة هو قدرته على العمل والتكيف بشكل مستقل، وبالتالي الدخول في مرحلة تتجاوز السيطرة البشرية التقليدية. فعلى سبيل المثال، يمكن للنظم الذكية أن تطوّر أسلحتها الخاصة، وأن تحدد بنفسها أهدافاً للهجوم، ليس فقط بتنفيذ أوامر البرامجين، بل أيضاً بابتكار حلول جديدة لم يضعها البشر أصلاً في الشيفرة البرمجية.
هذه الاستقلالية التقنية تطرح تحديات وجودية وأخلاقية غير مسبوقة:
- قدرة الذكاء الاصطناعي على اتخاذ قرارات استراتيجية أو حتى حربية بمعزل عن الإنسان.
- احتمالية تسريع وتيرة الابتكار الذاتي، إذ أصبح بمقدور الذكاء الاصطناعي الاستمرار في تحسين نفسه بشكل حلقي وسريع.
- الخوف من فقدان السيطرة البشرية على مجرى التطور التكنولوجي، خاصة في المجالات الحساسة مثل الأمن والدفاع.
تحذيرات هراري تكرّس الحاجة لنقاشات عميقة حول أخلاقيات استخدام الذكاء الاصطناعي، وحدود سلطته، ومسؤولية المبرمجين وصانعي القرار أمام الانزلاق نحو عالم قد لا يكون للإنسان فيه الكلمة الأخيرة.