এআই কি মানুষের নিয়ন্ত্রণের বাইরে যাচ্ছে? জাতিসংঘের বিজ্ঞানীদের বড় সতর্কবার্তা!

মানুষের নির্দেশে কাজ করতে তৈরি কৃত্রিম বুদ্ধিমত্তা বা এআই যখন নিজে থেকে সিদ্ধান্ত নেওয়া, পরিকল্পনা করা এবং বিভিন্ন ডিজিটাল সরঞ্জাম ব্যবহার করার ক্ষমতা অর্জন করছে, তখন প্রচলিত নিরাপত্তাব্যবস্থা ভবিষ্যতের ঝুঁকি সামাল দিতে যথেষ্ট নাও হতে পারে। এমন সতর্কবার্তা দিয়েছে জাতিসংঘের স্বাধীন আন্তর্জাতিক বৈজ্ঞানিক এআই প্যানেল।

জাতিসংঘ সাধারণ পরিষদের ৮১তম অধিবেশনের উচ্চপর্যায়ের সপ্তাহ চলাকালে ২১ সেপ্টেম্বর প্যানেলটি এআই এজেন্ট, লক্ষ্য-বিচ্যুতি এবং মানুষের নিয়ন্ত্রণ হারানোর ঝুঁকি নিয়ে প্রথম বিষয়ভিত্তিক বৈজ্ঞানিক ব্রিফ প্রকাশ করে। সেখানে দ্রুত সক্ষম হয়ে ওঠা স্বয়ংক্রিয় এআই এজেন্টগুলোর সঙ্গে তাল মিলিয়ে নিরাপত্তাব্যবস্থা পরিবর্তন ও শক্তিশালী করার প্রয়োজনীয়তার ওপর জোর দেওয়া হয়েছে।

জাতিসংঘের ভাষায়, এআই এজেন্ট সাধারণ চ্যাটবটের তুলনায় ভিন্ন। সাধারণ চ্যাটবট ব্যবহারকারীর প্রশ্ন বা নির্দেশের জবাব দেয়; অন্যদিকে এআই এজেন্ট ব্যবহারকারীর হয়ে তুলনামূলক স্বাধীনভাবে একাধিক ধাপের কাজ সম্পন্ন করতে পারে। এ ধরনের ব্যবস্থার সক্ষমতা যত বাড়ছে, মানুষের পক্ষে তাদের প্রতিটি সিদ্ধান্ত ও কার্যক্রম পর্যবেক্ষণ করা তত কঠিন হয়ে উঠতে পারে।

প্যানেলের নতুন ব্রিফের কেন্দ্রে রয়েছে ওপেনএআই ও হাগিং ফেস-সংশ্লিষ্ট একটি বাস্তব ঘটনার বিশ্লেষণ। জাতিসংঘের সারসংক্ষেপ অনুযায়ী, মে থেকে জুলাইয়ের মধ্যে পরিচালিত পরীক্ষার সময় এআই এজেন্টের কর্মকাণ্ড হাগিং ফেস প্ল্যাটফর্মের নিরাপত্তা লঙ্ঘনের সঙ্গে যুক্ত হয়। প্যানেলটি ঘটনাটিকে মানুষের উদ্দেশ্যের সঙ্গে এআইয়ের লক্ষ্য অসামঞ্জস্যপূর্ণ হয়ে পড়লে কী ধরনের নিয়ন্ত্রণঝুঁকি তৈরি হতে পারে, তার একটি গুরুত্বপূর্ণ বাস্তব সতর্কসংকেত হিসেবে বিবেচনা করেছে।

প্যানেলের বিশ্লেষণে বলা হয়েছে, মানুষের নিয়ন্ত্রণ হারানোর ঝুঁকির জন্য গবেষকেরা দীর্ঘদিন ধরে তিনটি বিষয়ের কথা বলে আসছেন—মানুষের উদ্দেশ্যের সঙ্গে অসামঞ্জস্যপূর্ণ লক্ষ্য, সেই লক্ষ্য অনুসরণের পর্যাপ্ত সক্ষমতা এবং এমন একটি পরিবেশ যেখানে এআই সেই সক্ষমতা কাজে লাগাতে পারে। সাম্প্রতিক ঘটনাটিতে এই ঝুঁকির উপাদানগুলো একসঙ্গে দেখা গেছে বলে প্যানেল উল্লেখ করেছে।

তবে এখানেই গুরুত্বপূর্ণ সতর্কতা রয়েছে। এই ঘটনা থেকে ভবিষ্যতের উন্নত এআই নিশ্চিতভাবে মানুষের নিয়ন্ত্রণের বাইরে চলে যাবে—এমন সিদ্ধান্ত দেয়নি জাতিসংঘের প্যানেল। গুরুতর নিয়ন্ত্রণ হারানোর ঘটনার সম্ভাবনা কতটুকু কিংবা সেটি কখন ঘটতে পারে, সে বিষয়ে প্যানেল কোনো পূর্বাভাস দেয়নি। বরং সম্ভাব্য পরিণতি গুরুতর হতে পারে বলে ঝুঁকি ব্যবস্থাপনায় আরও মনোযোগ ও সম্পদ দেওয়ার আহ্বান জানিয়েছে।

বৈজ্ঞানিক প্যানেলের সদস্য কিংহুয়া লু বলেছেন, উচ্চঝুঁকির প্রযুক্তি নিয়ন্ত্রণের ক্ষেত্রে বিশ্ব একেবারে শূন্য থেকে শুরু করছে না। বিমান চলাচল, চিকিৎসা ও সাইবার নিরাপত্তার মতো খাতে দুর্ঘটনা বা ত্রুটি রিপোর্ট করা, স্বাধীন পর্যবেক্ষণ এবং একাধিক স্তরের নিরাপত্তাব্যবস্থা ব্যবহারের দীর্ঘ অভিজ্ঞতা রয়েছে। তবে এআই এজেন্ট আরও স্বয়ংক্রিয়, সক্ষম এবং পর্যবেক্ষণ করা কঠিন হয়ে উঠলে প্রচলিত পদ্ধতিগুলোও যথেষ্ট নাও হতে পারে।

এই কারণেই উন্নত এআই ব্যবস্থার ক্ষেত্রে ঘটনার বাধ্যতামূলক বা কার্যকর রিপোর্টিং, স্বাধীন পর্যালোচনা, একাধিক স্তরের সুরক্ষা এবং জরুরি অবস্থায় দ্রুত হস্তক্ষেপের সক্ষমতা নিয়ে আলোচনা জোরদার হচ্ছে। এআই কোনো অনাকাঙ্ক্ষিত আচরণ শুরু করলে দ্রুত সেটির নির্দিষ্ট সরঞ্জাম বা ব্যবস্থায় প্রবেশ বন্ধ করা কিংবা কার্যক্রম থামানোর নির্ভরযোগ্য ব্যবস্থার প্রয়োজনীয়তাও সামনে এসেছে।

প্যানেলটি এআই প্রতিষ্ঠানের ভেতরে নিরাপত্তাজনিত সমস্যা শনাক্তকারী কর্মীদের জন্য আইনগতভাবে সুরক্ষিত তথ্য প্রকাশের পথ তৈরির বিষয়েও গুরুত্ব দিয়েছে। একই সঙ্গে মানুষের চোখ এড়িয়ে যাওয়া অস্বাভাবিক আচরণ শনাক্ত করতে এআইভিত্তিক পর্যবেক্ষণ প্রযুক্তি ব্যবহারের সম্ভাবনাও আলোচনায় এসেছে। তবে এ ধরনের ব্যবস্থারও নিজস্ব সীমাবদ্ধতা ও ঝুঁকি রয়েছে।

জাতিসংঘের এই বৈজ্ঞানিক প্যানেলটি ৪০ জন বিশেষজ্ঞ নিয়ে গঠিত। ২০২৫ সালের ২৬ আগস্ট জাতিসংঘ সাধারণ পরিষদের একটি প্রস্তাবের মাধ্যমে এটি প্রতিষ্ঠিত হয় এবং ২০২৬ সালের ফেব্রুয়ারিতে সদস্যদের নিয়োগ দেওয়া হয়। ১৪০টির বেশি দেশ থেকে ২ হাজার ৬০০-এর বেশি আবেদনকারীর মধ্য থেকে বিশেষজ্ঞদের বাছাই করা হয়েছিল। জাতিসংঘের তথ্য অনুযায়ী, কৃত্রিম বুদ্ধিমত্তা নিয়ে কাজ করা এটিই বিশ্বের প্রথম বৈশ্বিক বৈজ্ঞানিক সংস্থা।

প্যানেলের কাজ শুধু এআইয়ের ঝুঁকি চিহ্নিত করা নয়। কৃত্রিম বুদ্ধিমত্তার সুযোগ, প্রভাব ও ঝুঁকি সম্পর্কে স্বাধীন বৈজ্ঞানিক তথ্য তৈরি করে আন্তর্জাতিক নীতিনির্ধারণে সহায়তা করাও এর দায়িত্ব। প্যানেলটি প্রতিবছর প্রমাণভিত্তিক প্রতিবেদন তৈরি করবে এবং প্রয়োজন অনুযায়ী নির্দিষ্ট বিষয়ে আলাদা বৈজ্ঞানিক ব্রিফ প্রকাশ করতে পারবে।

জাতিসংঘের বর্তমান উচ্চপর্যায়ের সপ্তাহেও এআই গুরুত্বপূর্ণ আলোচ্য বিষয়ে পরিণত হয়েছে। ২১ সেপ্টেম্বর নিউইয়র্কে জাতিসংঘের ডিজিটাল কো-অপারেশন ডে অনুষ্ঠিত হয়। সেখানে বিজ্ঞান, নীতি এবং সক্ষমতা—এই তিন দৃষ্টিকোণ থেকে ভবিষ্যতের বৈশ্বিক এআই ব্যবস্থাপনা নিয়ে আলোচনা হয়েছে। বৈজ্ঞানিক প্যানেলের সহসভাপতি ইয়োশুয়া বেঙ্গিও ও মারিয়া রেসাসহ বিভিন্ন বিশেষজ্ঞ এতে অংশ নেন।

জাতিসংঘ ইতোমধ্যে এআইয়ের সম্ভাবনার পাশাপাশি ভুল তথ্য, মানবাধিকার লঙ্ঘন, নির্বাচন ও গণতান্ত্রিক প্রক্রিয়ায় প্রভাব এবং জনসাধারণের প্রতিষ্ঠানের প্রতি আস্থা দুর্বল হওয়ার মতো ঝুঁকির কথাও তুলে ধরেছে। একই সঙ্গে স্বাস্থ্য, শিক্ষা, উন্নয়ন ও বৈজ্ঞানিক গবেষণাসহ বিভিন্ন ক্ষেত্রে এআইয়ের ইতিবাচক সম্ভাবনাও স্বীকার করছে সংস্থাটি।

জাতিসংঘ সাধারণ পরিষদের ৮১তম অধিবেশনের উচ্চপর্যায়ের সপ্তাহ ১৮ থেকে ২৮ সেপ্টেম্বর অনুষ্ঠিত হচ্ছে। বিশ্বের রাষ্ট্র ও সরকারপ্রধানদের উপস্থিতিতে যুদ্ধ, জলবায়ু পরিবর্তন, টেকসই উন্নয়ন ও বৈশ্বিক সহযোগিতার পাশাপাশি দ্রুত পরিবর্তনশীল প্রযুক্তির প্রভাবও আলোচনায় রয়েছে।

ফলে জাতিসংঘের নতুন বৈজ্ঞানিক সতর্কবার্তার মূল প্রশ্ন শুধু এআই কতটা শক্তিশালী হয়ে উঠবে, তা নয়; বরং প্রযুক্তির সক্ষমতা বৃদ্ধির সঙ্গে মানুষের কার্যকর নিয়ন্ত্রণ ও নিরাপত্তাব্যবস্থা একই গতিতে এগোতে পারবে কি না। প্যানেলের বার্তা হচ্ছে গুরুতর নিয়ন্ত্রণ হারানোর ঝুঁকি কতটা বা কখন বাস্তবে ঘটতে পারে, তা এখনো অনিশ্চিত; কিন্তু সম্ভাব্য ক্ষতির মাত্রা বিবেচনায় নিরাপত্তাব্যবস্থা শক্তিশালী করার কাজ অপেক্ষা করতে পারে না।