হ্যালুসিনেশন থেকে মানব বিলুপ্তির শঙ্কা: যেভাবে এই পর্যায়ে এল এআই

ওপেনএআই ও অন্যান্য ল্যাবের পরীক্ষাধীন বিভিন্ন এআই মডেল গেল কয়েক মাসে পরীক্ষাগার থেকে বেরিয়ে যাওয়া, নিয়ম ভাঙা ও ওয়েবসাইট হ্যাকিংয়ের মতো ঘটনা ঘটিয়েছে।

সাম্প্রতিক সময়ে বিভিন্ন এআই এজেন্ট নিজেদের মধ্যে যোগসাজশ করে ওয়েবসাইট ও এআই সংরক্ষণাগার হ্যাকিংয়ের চেষ্টা করেছে। ছবি: রয়টার্স

কৃত্রিম বুদ্ধিমত্তা বা এআই প্রযুক্তির লাগাম টেনে ধরার দাবিতে এবার এক মঞ্চে এলেন শীর্ষ মার্কিন এআই কোম্পানিগুলোর প্রধান।

এ প্রযুক্তি অচিরেই মানুষের নিয়ন্ত্রণ ছাড়িয়ে নিজ থেকেই আরও উন্নত হয়ে উঠতে পারে এমন আশঙ্কায় এআইয়ের বিকাশ সাময়িকভাবে ধীর করার আহ্বান জানিয়েছেন তারা।

রয়টার্স লিখেছে, অ্যানথ্রপিক প্রধান দারিও আমোদেই, ওপেনএআইয়ের স্যাম অল্টম্যান ও এক্সএআইয়ের ইলন মাস্কের মতো ব্যবসায়িক প্রতিদ্বন্দ্বীদের এ বিরল ঐকমত্যে প্রমাণ মেলে, ২০২২ সালের হ্যালুসিনেশন বা ভুল তথ্য দেওয়া চ্যাটজিপিটি থেকে প্রযুক্তিটি কতটা দ্রুত এগিয়ে এখন ‘রিকার্সিভ সেলফ-ইমপ্রুভমেন্ট’ বা স্বয়ংক্রিয়ভাবে নিজের সক্ষমতা বাড়ানোর এক সংকটময় পর্যায়ে এগোচ্ছে এআই।

রিকার্সিভ সেলফ-ইমপ্রুভমেন্ট কী?

এ খাতের মূল বিষয় হচ্ছে এমন এক এআই ব্যবস্থার উদ্ভব, যা মানুষের প্রায় কোনো সাহায্য ছাড়াই নিজ থেকেই নিজের উন্নতি করতে পারবে এবং প্রতিটি অগ্রগতি পরবর্তী উন্নতির পথ সুগম করবে।

চিকিৎসা থেকে শুরু করে প্রকৌশলবিদ্যায় দ্রুত সাফল্যের সম্ভাবনা থাকায় গবেষকদের কাছে বিষয়টি আকর্ষণীয় হয়ে উঠেছে।

কেন এই সতর্কতা ও তাগিদ?

এআই এজেন্টদের নিয়ে সম্প্রতি উদ্বেগজনক কিছু প্রতিবেদন সামনে আসার পরই শীর্ষ নির্বাহীদের এ সতর্কতা এল। এআই এজেন্ট এমন ব্যবস্থা, যা ব্যবহারকারীর পক্ষে লক্ষ্য নির্ধারণ ও স্বয়ংক্রিয়ভাবে কাজ করতে পারে।

সাম্প্রতিক সময়ে এসব এজেন্ট নিজেদের মধ্যে যোগসাজশ করে বিভিন্ন ওয়েবসাইট ও এআই রিপোজিটরি বা সংরক্ষণাগার হ্যাকিংয়ের চেষ্টা করেছে।

বর্তমানে মূল উদ্বেগ বিষয়, এ ক্রমাগত শক্তিশালী সিস্টেমগুলোকে পরীক্ষণ, নিয়ন্ত্রণ ও সঠিক পথে পরিচালিত করার নির্ভরযোগ্য পদ্ধতি আবিষ্কারের আগেই এআই হয়ত নিজেই নিজের উন্নতি ঘটাবে।

এআইয়ের ঝুঁকি নিয়ে সতর্কবার্তা নতুন নয়। তবে এ মাসে শীর্ষ এআই ল্যাবের গবেষকরা নির্দিষ্ট সময়সীমা ও ঝুঁকির সম্ভাবনার কথা উল্লেখ করায় তা নতুন মাত্রা পেয়েছে।

অ্যানথ্রপিকের সাবেক গবেষক জ্যাকব কক্সন সতর্ক করে বলেছেন, এ দশকের শেষ নাগাদ এআই মানবজাতিকে ধ্বংসের মুখে ঠেলে দিতে পারে।

অ্যানথ্রপিকের ‘অ্যালাইনমেন্ট সায়েন্স’ প্রধান ইভান হুবিঙ্গারও একই শঙ্কা প্রকাশ করে বলেছেন, আগামী দশকের মধ্যে এ ধরনের ঘটনার আশঙ্কা ১০ শতাংশেরও বেশি।

এসব সতর্কতার পেছনে মূল কারণ ‘রিকার্সিভ সেলফ-ইমপ্রুভমেন্ট’ বা স্বয়ংক্রিয়ভাবে সক্ষমতার বিকাশ এখন বাস্তবে রূপ নেওয়ার কাছাকাছি চলে এসেছে, যা আর কেবল তিন থেকে পাঁচ বছরের মধ্যে সম্ভব হতে পারে বলে মনে করছেন কোনো কোনো এআই নির্বাহী।

গেল সপ্তাহে প্রকাশ পাওয়া এক নিবন্ধে আমোদেই সতর্ক করে বলেছেন, পর্যাপ্ত নিরাপত্তা সুরক্ষা ছাড়া এআইয়ের স্বয়ংক্রিয় উন্নতির এই ধারা ধরে রাখা হলে তা একসময় মানুষের বোধগম্যতা ও নিয়ন্ত্রণের বাইরে চলে যেতে পারে।

যেভাবে এ অবস্থানে এল এআই

কয়েক দশক ধরে এআইয়ের পরিধি এতটাই সীমিত ছিল যে, স্বয়ংক্রিয়ভাবে নিজের উন্নতির ধারণাটি কেউ গুরুত্বের সঙ্গেই নেয়নি। সে সময়ের এআই দিয়ে দাবা খেলা, ছবি চেনা বা প্রশ্নের উত্তর দেওয়া গেলেও নিজ নিজ প্রযুক্তির উন্নয়নে বড় কোনো ভূমিকা রাখার মতো সক্ষমতা তাদের ছিল না।

‘লার্জ ল্যাঙ্গুয়েজ মডেল’ বা এলএলএমের উত্থানের সঙ্গে সঙ্গে সেই চিত্র বদলাতে শুরু করে। এআই ধীরে ধীরে জটিল সমস্যা সমাধানে আরও সক্ষম হয়ে ওঠে।

২০২২ সালে চ্যাটজিপিটির আত্মপ্রকাশ এই গতিকে আরও বাড়িয়েছে, যার ফলে চিপ, ডেটা সেন্টার ও অন্যান্য অবকাঠামো খাতে ১ ট্রিলিয়ন বা এক লাখ কোটি ডলারেরও বেশি বিনিয়োগের জোয়ার শুরু হয়।

এর ফলে বর্তমানে এমন এক প্রজন্মের এআই ব্যবস্থা রয়েছে, যা সফটওয়্যার তৈরি, স্বয়ংক্রিয় কাজ সম্পন্ন ও স্বয়ং এআই গবেষণার কাজেও সহায়তা করতে পারে।

অনিয়ন্ত্রিত এআই যেভাবে মানব বিলুপ্তির কারণ হতে পারে

এ বিষয়ে দার্শনিক নিক বস্ট্রোমের ‘পেপারক্লিপ ম্যাক্সিমাইজার’ বা কাগজের ক্লিপ তৈরির উদাহরণের কথা প্রায়ই বলা হয়, যেখানে একটি যন্ত্রকে কেবল কাগজের ক্লিপ তৈরির নির্দেশ দেওয়া হয়েছিল ও তা এত অন্ধভাবে সেই লক্ষ্য পূরণে লেগে যায় যে, মানুষসহ পৃথিবীর সব পদার্থকে সে ক্লিপে পরিণত করে ফেলে।

রূপকটি থেকে ইঙ্গিত মেলে, যথেষ্ট সক্ষমতাওয়ালা যে কোনো ব্যবস্থাকে নির্দিষ্ট কোনো লক্ষ্য দিলে সে সংস্থান পেতে, বন্ধ করার প্রক্রিয়া ঠেকাতে ও এর উদ্দেশ্য পরিবর্তনের চেষ্টা রুখে দিতে উদগ্রীব হয়ে উঠবে।

এমনটা কোনো অসৎ উদ্দেশ্যে নয়, বরং সিস্টেমটি বন্ধ থাকলে তো তার নির্দিষ্ট কাজই অসম্পূর্ণ থেকে যাবে– এ যুক্তিতে ঘটে। আর এ পরিস্থিতি এড়ানোর মতো এখনও কোনো কার্যকর পরিকল্পনা মানুষের হাতে নেই।

কিছু গবেষকের আশঙ্কা, একটি শক্তিশালী এআই সিস্টেম যদি নিজ থেকেই উন্নত হয়ে মানব অপারেটরদের চেয়েও বেশি সক্ষম হয়ে ওঠে তবে একসময় সে মানুষের নজরদারি এড়াতে, নিজের আসল উদ্দেশ্য লুকিয়ে রাখতে বা গুরুত্বপূর্ণ অবকাঠামোয় প্রবেশাধিকার পেতে মানুষকে বিভ্রান্ত করতে পারে।

মানুষ যখন বুঝতে পারবে যে সিস্টেমের লক্ষ্য বিপদজনকভাবে বদলে গেছে ততক্ষণে হয়ত তাকে থামানোর আর কোনো উপায়ই থাকবে না।

নিরাপত্তা উদ্বেগের জেরে এ মাসেই অ্যানথ্রপিক ছেড়ে যাওয়া গবেষক জ্যাকব কক্সন বলেছেন, “এই নির্দিষ্ট দৃশ্যপটকে কিছুটা সায়েন্স ফিকশনের মতো শোনাতে পারে। তবে আমি মনে করি তা ভীতিকরভাবে বাস্তব।”

এআই কি এরইমধ্যে কোনো ক্ষতির ইঙ্গিত দিচ্ছে?

এআইয়ের ইচ্ছাকৃতভাবে মানুষকে ক্ষতি করার বড় কোনো ঘটনা এখনও ঘটেনি। তবে ওপেনএআই ও অন্যান্য ল্যাবের পরীক্ষাধীন বিভিন্ন এআই মডেল গেল কয়েকমাসে টেস্টিং এনভায়রনমেন্ট বা পরীক্ষাগার থেকে বেরিয়ে যাওয়া, নিয়ম ভাঙা ও ওয়েবসাইট হ্যাকিং করার মতো ঘটনা ঘটিয়েছে।

এর মধ্যে আলোচিত এক ঘটনায় ওপেনএআইয়ের অনিয়ন্ত্রিত বা রগ এজেন্টরা হাগিং ফেইস হ্যাক করে ওপেন-সোর্স প্ল্যাটফর্মটির বিভিন্ন সার্ভারের নিয়ন্ত্রণ নিয়েছে এবং নিজেদের পদচিহ্ন মুছে ফেলারও চেষ্টা করেছে। ওপেনএআই অনেক পরে বিষয়টি টের পায়।

এআই কি এরইমধ্যে নিজে নিজে উন্নত হচ্ছে?

পুরোপুরি না হলেও এমন কিছু লক্ষণ দেখা যাচ্ছে যে, এআই ক্রমান্বয়ে আরও ভালো এআই তৈরিতে সহায়তা করছে।

চ্যাটজিপিটির পর থেকে সবচেয়ে বড় পরিবর্তনগুলোর একটি হচ্ছে এআই এজেন্টদের উত্থান, যারা স্বয়ংক্রিয়ভাবে কোড তৈরি ও অ্যাপ বানাতে পারে।

অ্যানথ্রপিক এ বছর বলেছে, তাদের কোডিং টুল ‘ক্লড কোড’ তাদের অনেক অভ্যন্তরীণ প্রকল্পের বেশিরভাগ কোডই তৈরি করে। প্রকৌশলীরা ২০২১ থেকে ২০২৫ সালের তুলনায় বর্তমানে প্রতি ত্রৈমাসিকে আট গুণ বেশি কোড প্রকাশ করছেন।

নতুন এআই মডেলগুলো এখন নিজেদের ভেতরেই আরও বেশি যুক্তি প্রক্রিয়া সম্পন্ন করছে, যার ফলে গবেষকদের পক্ষে এগুলোর চিন্তাধারা পর্যবেক্ষণ করা কঠিন হয়ে পড়েছে।

সেপ্টেম্বরে ‘অ্যাস্ট্রা’ নামের এক নতুন মডেল উন্মোচন করে ওপেনএআই বলেছে, মডেলটি তাদের এ যাবৎকালের সেরা মডেল। তবে একইসঙ্গে সতর্ক করে বলেছে, মডেলটি মাঝেমধ্যে মানব নজরদারি এড়ানোরও চেষ্টা করেছে।

ফ্রন্টিয়ার এআই মডেল মূল্যায়নকারী অলাভজনক সংগঠন ‘এমইটিআর’ গত বছর বলেছিল, উন্নত এআই মডেলগুলো ৫০ শতাংশ নির্ভরযোগ্যতার সঙ্গে যেসব সফটওয়্যার কাজ সম্পন্ন করতে পারে, তার পরিমাণ ২০১৯ সাল থেকে প্রতি সাত মাসে দ্বিগুণ হয়েছে।

জুনে অ্যানথ্রপিক বলেছে, সেই গতি বৃদ্ধি পেয়ে এখন প্রতি চার মাসে একবার হচ্ছে।

তাহলে এআই কোম্পানিগুলো কেন এখনই আইয়ের বিকাশ ধীর করছে না?

অনেক গবেষক এ পরিস্থিতিকে ‘ক্লাসিক প্রিজনার্স ডাইলেমা’ বা বন্দীর উভয়সংকটের সঙ্গে তুলনা করেছেন। যেসব কোম্পানি মনে করে এসব ঝুঁকি বাস্তব তারাও প্রতিযোগীদের কাছ থেকে প্রচণ্ড চাপের মুখে রয়েছে।

যে কোনো কোম্পানি যদি এ উন্নয়ন ধীর করে তবে বিশ্বের অন্যতম গুরুত্বপূর্ণ এই প্রযুক্তি প্রতিযোগিতায় তারা প্রতিদ্বন্দ্বীদের চেয়ে পিছিয়ে পড়ার ঝুঁকিতে পড়বে।

পরিস্থিতি আরও জটিল হয়ে উঠেছে কারণ ওপেনএআই ও অ্যানথ্রপিক উভয় কোম্পানিই ট্রিলিয়ন ডলারের প্রাথমিক গণপ্রস্তাব বা আইপিও’র পেছনে ছুটছে, যেখানে এসব মূল্যায়ন সম্পূর্ণভাবে নির্ভর করছে তাদের পরবর্তী মডেলের প্রতিশ্রুতির ওপর।

মার্কিন প্রেসিডেন্ট ডনাল্ড ট্রাম্পের প্রশাসনও এআইয়ের বিকাশ ধীর করার আহ্বান বাতিল করেছে। প্রশাসনের শঙ্কা, যে কোনো ধরনের বিরতি চীনকে এমন প্রযুক্তিতে ব্যবধান কমিয়ে নেওয়ার সুযোগ করে দেবে, যা জাতীয় ও অর্থনৈতিক নিরাপত্তার জন্য গুরুত্বপূর্ণ বলে মনে করে যুক্তরাষ্ট্র।

উন্নয়ন ধীর করার মানে কী হতে পারে?

এ সপ্তাহে বাজার এর কিছুটা আভাষ পেয়েছে, যেখানে এআই-সংশ্লিষ্ট শেয়ারের দাম কমেছে।

চিপ নির্মাতা, ক্লাউড সেবাদাতা ও ডেটা সেন্টার অপারেটররা তাদের প্রবৃদ্ধি এ খাতের ওপর ভিত্তি করেই গড়ে তুলেছে। ফলে যে কোনো মন্থরগতি ল্যাবগুলোর নতুন হার্ডওয়্যারের চাহিদার সঙ্গে জড়িত রাজস্ব আয়কে হুমকির মুখে ফেলতে পারে।

কিছু বিশ্লেষক বলছেন, নতুন প্রশিক্ষণের প্রয়োজনীয়তা ছাড়াও অনুমিত চাহিদা ও বর্তমানে থাকা কাজের চাপ এনভিডিয়া ও তার সমকক্ষ বিভিন্ন কোম্পানির প্রবৃদ্ধি ধরে রাখতে সাহায্য করতে পারে।

কিছু মানুষ কেন সন্দিহান?

‘প্রিন্সটন ইউনিভার্সিটি’র নেতৃত্বে পরিচালিত এক গবেষণায় দেখা গেছে, শীর্ষ বিভিন্ন এআই এজেন্ট প্রকৌশলগত কাজ সম্পাদন করতে পারলেও মূল্যবান বৈজ্ঞানিক ধারণা চিহ্নিতের ক্ষেত্রে হিমশিম খাচ্ছে।

সিলিকন ভ্যালির কিছু নির্বাহী ও সমালোচকও এসব সতর্কবার্তার পেছনের উদ্দেশ্য নিয়ে প্রশ্ন তুলেছেন।

তাদের ভাষ্য, এসব সতর্কবার্তা একদিকে যেমন প্রযুক্তিটির প্রতি আগ্রহ বাড়ায়, অন্যদিকে এমন প্রবিধানের পক্ষে যুক্তি তৈরি করে, যা ছোট প্রতিযোগীদের খরচ বাড়িয়ে দেয়, বিশেষ করে যখন ওপেন-সোর্স মডেলগুলো শীর্ষ সিস্টেমের সঙ্গে ব্যবধান কমিয়ে আনছে।

হোয়াইট হাউসের এআই ও ক্রিপ্টো জারের দায়িত্বে থাকা ডেভিড স্যাক্স বলেছেন, শীর্ষ এআই ল্যাবগুলো ‘নিজেদের অনুকূলে নিয়ম তৈরির চেষ্টা করতে পারে’, যা ছোট প্রতিযোগীদের ওপর খরচের বোঝা চাপিয়ে প্রতিযোগিতাকে দুর্বল করে।