কৃত্রিম বুদ্ধিমত্তা (এআই) দ্রুত এমন পর্যায়ে পৌঁছাতে পারে, যা মানবজাতির অস্তিত্বের জন্য বড় ঝুঁকি তৈরি করবে এমন সতর্কবার্তা দিয়েছেন এআই নিরাপত্তা গবেষক ইভান হুবিঙ্গার। অ্যানথ্রপিকের অ্যালাইনমেন্ট সায়েন্স বিভাগের এই গবেষকের ব্যক্তিগত মূল্যায়ন, আগামী এক দশকের মধ্যে এআইয়ের কারণে মানবজাতি নিশ্চিহ্ন হওয়ার সম্ভাবনা ১০ শতাংশের বেশি।

সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক পোস্টে হুবিঙ্গার বলেন, বর্তমানে ব্যবহৃত এআই মডেলগুলোর ঝুঁকি তুলনামূলকভাবে কম। তার উদ্বেগ মূলত এমন উন্নত এআই নিয়ে, যা নিজের সক্ষমতা নিজেই উন্নত করতে পারবে। এ ধরনের recursive self-improvement শুরু হলে এআইয়ের সক্ষমতা মানুষের প্রত্যাশার চেয়েও দ্রুত বাড়তে পারে বলে তিনি মনে করেন।

হুবিঙ্গারের মন্তব্য সামনে আসে অ্যানথ্রপিকের আরেক গবেষক জ্যাকব কক্সনের পদত্যাগের পর। কক্সন অভিযোগ করেন, অ্যানথ্রপিক ও ওপেনএআই দুই প্রতিষ্ঠানই স্ব-উন্নয়নশীল সুপারইন্টেলিজেন্স তৈরির প্রতিযোগিতায় নিরাপত্তার বিষয়টিকে যথেষ্ট গুরুত্ব দিচ্ছে না। তার ভাষ্য অনুযায়ী, এআই নিয়ে যেসব অস্তিত্বগত ঝুঁকি গবেষকদের মধ্যে আলোচিত হচ্ছে, সেগুলো প্রকাশ্যে যতটা বলা হয় বাস্তবে উদ্বেগ তার চেয়েও বেশি।

কক্সনের বক্তব্যের সঙ্গে একমত পোষণ করে হুবিঙ্গার বলেন, অ্যানথ্রপিক এআইকে নিরাপদ রাখার জন্য সর্বোচ্চ চেষ্টা করছে। তবে সুপারইন্টেলিজেন্সের ক্ষেত্রে এআইয়ের লক্ষ্য ও আচরণকে মানুষের নিয়ন্ত্রণে রাখার জন্য এখনো কার্যকর সমাধান তৈরি হয়নি এবং প্রতিষ্ঠানটি সেই সমাধানের দিকে যথেষ্ট এগোতে পারেনি বলেও তিনি স্বীকার করেন।

এআই নিরাপত্তা নিয়ে উদ্বেগের বিষয়টি নতুন নয়। ২০২৩ সালেও ওপেনএআই, গুগল ডিপমাইন্ড ও অ্যানথ্রপিকের শীর্ষ পর্যায়ের ব্যক্তিরা উন্নত এআইয়ের সম্ভাব্য অস্তিত্বগত ঝুঁকি নিয়ে সতর্ক করেছিলেন। সাম্প্রতিক সময়ে স্বয়ংক্রিয়ভাবে কাজ করতে সক্ষম এআই এজেন্ট এবং তাদের মাধ্যমে সংঘটিত সাইবার হামলার ঘটনাও প্রযুক্তি খাতে নতুন করে উদ্বেগ তৈরি করেছে।

এদিকে এআই নিরাপত্তা নিয়ে আন্তর্জাতিক পর্যায়েও আলোচনা বাড়ছে। ফাইন্যান্সিয়াল টাইমসের প্রতিবেদনের বরাতে বিভিন্ন আন্তর্জাতিক সংবাদমাধ্যম জানিয়েছে, অ্যানথ্রপিক তাদের সর্বশেষ মডেল যুক্তরাজ্যের এআই সেফটি ইনস্টিটিউটের কাছে মূল্যায়নের জন্য দেয়নি। প্রতিষ্ঠানটি কেন এমন সিদ্ধান্ত নিয়েছে, সে বিষয়ে তাৎক্ষণিকভাবে বিস্তারিত ব্যাখ্যা পাওয়া যায়নি।

বিশেষজ্ঞদের মতে, এআইয়ের সক্ষমতা দ্রুত বাড়ার সঙ্গে সঙ্গে প্রযুক্তিটির নিরাপত্তা, মানুষের নিয়ন্ত্রণ এবং AI alignment নিশ্চিত করার বিষয়টিও সমান গুরুত্বে এগিয়ে নেওয়া প্রয়োজন। হুবিঙ্গারের মন্তব্য অবশ্য কোনো নিশ্চিত ভবিষ্যদ্বাণী নয়; এটি তার ব্যক্তিগত ঝুঁকি-অনুমান। তবে বিশ্বের অন্যতম শীর্ষ এআই নিরাপত্তা প্রতিষ্ঠানের একজন গবেষকের এমন সতর্কবার্তা প্রযুক্তিটির ভবিষ্যৎ নিয়ে বিতর্ককে আরও জোরালো করেছে।