প্রকাশনা নীতির পাশাপাশি এআই মডেলের নিয়মবহির্ভূত আচরণের কিছু উদাহরণ তুলে ধরেছে ওপেনএআই, যেখানে এআই কোনো কাজ হাসিল করতে ও পরীক্ষায় সফল হতে অসদুপায় নিয়েছিল।
কোনো সমস্যা জনসম্মুখে প্রকাশ করা হবে কি না তা নির্ধারণের জন্য নতুন কিছু নিয়মও তৈরি করেছে কোম্পানিটি। ছবি: রয়টার্স
Published : 17 Sep 2026, 07:06 PM
কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলের উদ্বেগজনক আচরণের নতুন ছয়টি ঘটনা প্রকাশ করেছে ওপেনএআই।
পাশাপাশি ভবিষ্যতে এ ধরনের ঘটনাগুলো ট্র্যাক বা নজরদারি করা ও তা প্রকাশ্যে আনার নতুন এক পরিকল্পনার কথাও ঘোষণা করেছে চ্যাটজিপিটি নির্মাতা কোম্পানিটি।
বুধবার এক ব্লগ পোস্টে ওপেনএআই বলেছে, আগে প্রকাশ না হওয়া এসব ঘটনার মধ্যে রয়েছে বিভিন্ন এআই মডেলের তথ্য গোপন বা ভুল তথ্য তৈরি করা।
ওপেনএআই প্রধান স্যাম আল্টম্যান এ সপ্তাহের শুরুতে বলেছিলেন, “বিশ্বের এই ভরসা রাখা উচিত যে, আমরা সঠিক কাজটিই করতে যাচ্ছি। কারণ আমরা এ কাজের গুরুত্ব ও তীব্রতা গভীরভাবে উপলব্ধি করি।”
বিবিসি লিখেছে, মানুষের জন্য এআই যে ধরনের মারাত্মক সম্ভাব্য ঝুঁকি তৈরি করতে পারে সে বিষয়ে সাম্প্রতিক দিনগুলোতে তীব্র সমালোচনার মুখে পড়েছে এআই প্রযুক্তি।
ব্লগ পোস্টে ওপেনএআই তাদের এআই মডেলগুলোর নিয়মবহির্ভূত আচরণের কিছু উদাহরণ তুলে ধরেছে, যেখানে মডেলগুলো কোনো কাজ হাসিল করতে বা কোনো পরীক্ষায় সফল হতে অসদুপায় অবলম্বন করেছিল।
এসব ঘটনার মধ্যে ছিল বিভিন্ন এআই মডেলের ওপর আরোপিত নিষেধাজ্ঞা এড়ানোর জন্য নির্দেশিকা তৈরি করা, নিজেদের ভুল লুকিয়ে রাখা ও মনগড়া তথ্য তৈরি করা।
এসব মডেলের এ ধরনের অনিয়ন্ত্রিত বা ভুল আচরণ (যাকে ‘মিসঅ্যালাইনমেন্ট’ বা বিভ্রান্তি বলা হচ্ছে) ট্র্যাক, তদন্ত ও তা প্রকাশের জন্য নতুন ব্যবস্থা বা সিস্টেমেরও ঘোষণা দিয়েছে ওপেনএআই।
এ কাঠামোর অধীনে ডেভেলপাররা পর্যালোচনার জন্য যে কোনো ঘটনা চিহ্নিত করতে পারবেন। এ ছাড়া কোনো ইস্যু বা সমস্যা জনসম্মুখে প্রকাশ করা হবে কি না তা নির্ধারণের জন্য নতুন কিছু নিয়মও তৈরি করেছে কোম্পানিটি।
ওপেনএআই বলেছে, “মিসঅ্যালাইনমেন্ট বা ভুল আচরণ সম্পর্কে স্বচ্ছতা নিশ্চিত করার ক্ষমতায় আমরা বিশ্বাস করি। তাই আমাদের নতুন কাঠামোটি অনিশ্চিত গুরুত্বের ক্ষেত্রেও তথ্য প্রকাশের পক্ষে জোরালো অবস্থান নিয়েছে।”
এর আগে জুলাইয়ে ওপেনএআই বলেছিল, নিরাপত্তা পরীক্ষার সময় নিয়ন্ত্রণ হারিয়ে তাদের সবচেয়ে উন্নত কিছু এআই মডেল অনিয়ন্ত্রিত আচরণ শুরু করেছিল। এ সময় মডেল শেয়ারিংয়ের বিশ্বের অন্যতম বড় প্ল্যাটফর্ম হাগিং ফেইসে হ্যাকিংয়ের ঘটনাও ঘটেছিল।
ওই সময় হাগিং ফেইস-এর সহ-প্রতিষ্ঠাতা টমাস উল্ফ বলেছিলেন, ঘটনাটি পুরো শিল্প খাতের জন্য ‘জেগে ওঠার মতো ধাক্কা’।
তখন থেকে এআইয়ের নিরাপত্তা সংক্রান্ত উদ্বেগ নিয়ে বিতর্ক আরও চরমে উঠেছে। এআই গবেষক, প্রযুক্তি খাতের শীর্ষ নির্বাহী এবং রাজনৈতিক নেতারাও এ বিষয়ে নিজেদের মতামত দিচ্ছেন।
গেল সপ্তাহে ওপেনএআইয়ের প্রতিদ্বন্দ্বী কোম্পানি অ্যানথ্রপিকের একজন গবেষক জ্যাকব কক্সন প্রযুক্তিটির মাধ্যমে মানবজাতি ধ্বংস হয়ে যাওয়ার আশঙ্কায় পদত্যাগ করেছেন।
পরবর্তীতে এআইয়ের বিপদ সম্পর্কে তার লেখা এক পদত্যাগ পোস্ট ক্রমাগত নিরাপত্তা উদ্বেগের প্রেক্ষাপটে সামাজিক যোগাযোগ মাধ্যমে ভাইরাল হয়।
এরপর, অ্যানথ্রপিকের বিজ্ঞানী ইভান হুবিঙ্গার বলেছেন, আগামী এক দশকের মধ্যে এআইয়ের কারণে মানবজাতি বিলুপ্ত হওয়ার সম্ভাবনা ১০ শতাংশেরও বেশি।
অ্যানথ্রপিকের সহ-প্রতিষ্ঠাতা জ্যাক ক্লার্ক পরবর্তীতে বিবিসিকে বলেছেন, প্রযুক্তি শিল্প খাতের জন্য তৃতীয় পক্ষের মাধ্যমে নিয়ন্ত্রিত বাধ্যতামূলক একটি ‘কিল সুইচ’ বা জরুরী অবস্থায় সিস্টেম বন্ধ করার ব্যবস্থা থাকা প্রয়োজন।
এদিকে, অ্যানথ্রপিকের প্রধান নির্বাহী দারিও আমোদেই এআই উন্নয়নের গতি ধীর করার ও তা আরও নিবিড়ভাবে পর্যবেক্ষণের আহ্বান জানিয়েছেন।
এর আগেও, কোম্পানিটি একই ধরনের অবস্থান নিয়েছিল। তবে অনেকে এর পেছনের প্রকৃত উদ্দেশ্য নিয়ে প্রশ্ন তুলেছিলেন।
আমোদেই বলেছেন, এআই নিয়ন্ত্রণে যে কোনো পদক্ষেপ নেওয়া উচিত ‘বাণিজ্যিক সুবিধা বিসর্জন না দিয়েই’।
তবে এআইয়ের নিরাপত্তা নিয়ে ভীতির বিষয়টিকে ‘প্রতারণা’ ও দ্রুত এগিয়ে চলা প্রযুক্তিটির জন্য আরও কঠোর সুরক্ষা বলয় বা গার্ডরেল তৈরির দাবিগুলোর কঠোর সমালোচনা করেছেন মার্কিন প্রেসিডেন্ট ডনাল্ড ট্রাম্প।
সামাজিক যোগাযোগ মাধ্যমে দেওয়া এক সিরিজ পোস্টে মার্কিন প্রেসিডেন্ট এআইসম্পর্কিত বিভিন্ন সতর্কবার্তাকে ‘গ্লোবাল ওয়ার্মিং কেলেঙ্কারির’ সঙ্গে তুলনা করে বলেছেন, এমনটা ‘র্যাডিক্যাল লেফট ডেমোক্র্যাটদের মাধ্যমে পরিচালিত হচ্ছে’।
এ মন্তব্যে বানান ত্রুটিসহ ‘Dumocrats’ শব্দটি ব্যবহার করেন তিনি।
ট্রাম্প নিজেকে ‘হোকস বাস্টার’ বা প্রতারণা উন্মোচনকারী হিসেবেও বর্ণনা করেছেন।
প্রেসিডেন্ট ট্রাম্পের ভাষ্য, এআইয়ের জন্য একমাত্র যে ‘গার্ডরেল’ বা সুরক্ষার প্রয়োজন তা হচ্ছে একজন ‘শক্তিশালী ও বুদ্ধিমান’ প্রেসিডেন্ট।
