از آنجایی که هوش مصنوعی (AI) به پیشرفت‌هایی در آنچه ممکن است ادامه می‌دهد، نگرانی فزاینده‌ای در مورد اینکه آیا این نوآوری‌ها ممکن است قدرتمندتر از خالقان خود شوند وجود دارد.
مت کلیفورد، رئیس آژانس تحقیقات و اختراعات پیشرفته بریتانیا (ARIA)، در مصاحبه اخیر با یک خبرگزاری محلی بر این موضوع تاکید کرد.کلیفورد تاکید کرد که هوش مصنوعی باید به زودی تنظیم شود تا از خطر “بسیار قدرتمند” شدن در دو سال آینده جلوگیری شود، زیرا در حال حاضر انسان ها کنترلی بر آنها ندارند.
کلیفورد در مورد خطرات کوتاه مدت و بلندمدتی که می تواند ناشی از استفاده از ابزارهای هوش مصنوعی باشد، گفت: مردم می توانند از اطلاعات تولید شده توسط هوش مصنوعی برای ایجاد سلاح های زیستی یا انجام حملات سایبری استفاده کنند.
کلیفورد تنها متخصص فناوری نیست که نگران خطرات مرتبط با رشد هوش مصنوعی است. در نامه سرگشاده مرکز ایمنی هوش مصنوعی، 350 کارشناس هوش مصنوعی این ایده را تایید کردند که هوش مصنوعی به عنوان یک تهدید وجودی تلقی شود، درست مانند سلاح های هسته ای و بیماری های همه گیر که وجود انسان را تهدید می کند.جفری هینتون، دانشمند علوم کامپیوتر و کارمند سابق گوگل، همچنین ایده سبقت گرفتن از نیروی هوش مصنوعی از انسان را سرگرم می کند. اوایل این ماه، او در مصاحبه‌ای به این موضوع اشاره کرد که انسان‌ها در حال ساخت هوشی هستند که می‌تواند از بشریت پیشی بگیرد و وجود ما را تهدید کند.
