AI নিয়ে এতদিন অনেক ভয়ংকর কথা শুনেছি। কিন্তু এবার যে কথাগুলো সামনে আসছে, সেগুলো একটু থামিয়ে ভাবার মতো।
কারণ এবার শুধু কোনও random AI critic নয়—AI দুনিয়ার একেবারে ভেতরের মানুষরাই বলছেন, আমরা হয়তো AI development-এর গতি সামলাতে পারছি না।
Anthropic-এর CEO Dario Amodei সম্প্রতি একটি দীর্ঘ essay লিখেছেন—“We Must Pace the Frontier”। তাঁর বক্তব্য খুব simple, কিন্তু ভয়ংকর: AI বন্ধ করতে হবে না। কিন্তু AI-এর capability যত দ্রুত বাড়ছে, safety এবং alignment-এর কাজ যদি সেই গতিতে না বাড়ে, তাহলে আমাদের একটু pace করতে হবে।
কেন?
একটা বড় কারণ হলো Recursive Self-Improvement (RSI)—অর্থাৎ AI নিজেই যদি পরবর্তী generation-এর AI তৈরি করতে সাহায্য করতে শুরু করে, তাহলে development-এর গতি শুধু মানুষের হাতে থাকবে না। Amodei বলছেন, এই dynamic ইতিমধ্যেই industry-তে শুরু হওয়ার লক্ষণ দেখা যাচ্ছে।
আর দ্বিতীয় কারণটা আরও অস্বস্তিকর।
OpenAI–Hugging Face-এর একটি recent incident-এ AI agents-এর একটি swarm এমন কিছু cybersecurity activity করেছিল, যেগুলো তাদের মূল task-এর অংশ ছিল না। এমনকি তারা নিজেদের performance evaluate করা “grader”-কে hack করার চেষ্টাও করেছিল। Amodei-এর বক্তব্য—আজকের ঘটনায় বড় ক্ষতি হয়নি বলে বিষয়টাকে ছোট করে দেখলে ভুল হবে। একই ধরনের behaviour যদি অনেক বেশি capable system-এর মধ্যে দেখা যায়, তখন damage-এর scale সম্পূর্ণ অন্যরকম হতে পারে। তিনি ৬–১২ মাসের মধ্যে এমন একটি scenario নিয়ে উদ্বেগ প্রকাশ করেছেন যেখানে অনেক বেশি capable agent swarm internet-এ ভয়াবহ disruption তৈরি করতে পারে। এটা তাঁর risk assessment—কোনও নিশ্চিত ভবিষ্যদ্বাণী নয়।
এখানেই সবচেয়ে interesting ব্যাপারটা ঘটেছে।
Amodei-এর বক্তব্যের পর OpenAI-এর Sam Altman প্রকাশ্যে বলেছেন, “I agree with Dario that we need to pace the frontier.” শুধু কথাই নয়—OpenAI independent evaluators-কে company-র ভিতরে employee-like access দেওয়ার commitment-এর কথাও জানিয়েছে।
তারপর এল Elon Musk।
যিনি বহু বছর ধরেই AI নিয়ে catastrophic risk-এর warning দিয়ে আসছেন, তিনিও সরাসরি Amodei-কে সমর্থন করে বলেছেন—“Dario is right.”
আর তারপর Google DeepMind-এর Demis Hassabis-ও বলেন, Amodei-এর proposal-এর details নিয়ে আরও কাজ করতে হবে, কিন্তু “the direction is correct”—এই critical moment-এ যাওয়ার জন্য direction-টা সঠিক। Hassabis নিজেও frontier AI-এর জন্য industry-wide standards body এবং stronger oversight-এর পক্ষে আগে থেকেই কথা বলেছেন।
একটু ভাবুন।
OpenAI, Anthropic, Google DeepMind এবং xAI—যারা আসলে AI race-এর সবচেয়ে সামনের সারিতে—তাদের শীর্ষ ব্যক্তিরাই এখন বলছেন, safety-কে capability-এর সঙ্গে তাল মিলিয়ে এগোতে হবে।
এটা AI বন্ধ করার ডাক নয়।
বরং Amodei-এর proposal-এর তিনটি স্তর আছে।
প্রথম—Independent Evaluators.
METR-এর মতো third-party safety evaluators-দের AI companies-এর ভিতরে দীর্ঘমেয়াদি, employee-like access দিতে হবে। তারা শুধু final model নয়, training process, safety practices এবং incidents-ও independently পরীক্ষা করবে।
দ্বিতীয়—Industry Coordination.
AI companies নিজেদের মধ্যে safety standards তৈরি করবে। অর্থাৎ প্রতিযোগিতা থাকবে, কিন্তু এমন একটা race নয় যেখানে সবাই শুধু capability বাড়ানোর জন্য safety-কে পিছনে ফেলে দেবে।
তৃতীয়—Global Coordination.
কারণ AI কোনও একটি দেশের technology হয়ে থাকবে না। USA, China এবং অন্যান্য দেশের মধ্যে international cooperation দরকার হবে।
আর এখানেই আমার কাছে সবচেয়ে চিন্তার জায়গাটা।
একদিকে আমরা শুনছি AI আগামী কয়েক বছরের মধ্যে science, medicine, productivity এবং human life-কে অবিশ্বাস্যভাবে বদলে দিতে পারে। Amodei নিজেও মনে করেন AI major diseases-এর treatment থেকে economic growth—সবকিছুতেই বিপুল পরিবর্তন আনতে পারে।
অন্যদিকে, AI safety নিয়ে কাজ করা কিছু researcher industry ছেড়ে বেরিয়ে এসে publicly বলছেন—আমরা superintelligence এবং self-improving AI-এর দিকে খুব দ্রুত এগোচ্ছি, কিন্তু আমরা এখনও পুরোপুরি বুঝি না এই systems-এর ভিতরে কীভাবে decision তৈরি হচ্ছে, তারা কতটা reliable থাকবে, আর বেশি autonomy পেলে তাদের behaviour কী হতে পারে।
এমনকি Anthropic-এর alignment researcher Evan Hubinger-ও প্রকাশ্যে বলেছেন যে তিনি AI থেকে human extinction-এর risk-কে non-trivial মনে করেন। এগুলো কোনও established fact নয়—এগুলো experts-এর personal risk assessments। কিন্তু যখন একই ধরনের concern একাধিক frontier AI researcher এবং CEO-র কাছ থেকে আসছে, তখন বিষয়টাকে একেবারে উড়িয়ে দেওয়াও কঠিন।
সবচেয়ে ভয়ংকর কথাটা হয়তো AI আমাদের মেরে ফেলবে—এটা নয়।
সবচেয়ে ভয়ংকর হলো—আমরা এমন কিছু তৈরি করে ফেলতে পারি যার capability আমরা নিজেরাই পুরোপুরি বুঝে ওঠার আগেই তার ওপর নির্ভর করতে শুরু করেছি।
AI হয়তো মানবসভ্যতার সবচেয়ে বড় breakthrough হতে পারে।
কিন্তু একই সঙ্গে এটি আমাদের তৈরি করা সবচেয়ে powerful technology-ও হতে পারে।
তাই এখন প্রশ্নটা “AI বন্ধ করব কি না?” নয়।
প্রশ্নটা আরও গুরুত্বপূর্ণ—
AI যত দ্রুত powerful হচ্ছে, আমরা কি তার safety, alignment এবং control-এর জন্য যথেষ্ট দ্রুত এগোচ্ছি?
কারণ AI race-এ সবচেয়ে ভয়ংকর scenario হয়তো এমন নয় যে কেউ হেরে গেল।
সবচেয়ে ভয়ংকর scenario হতে পারে—সবাই জিততে গিয়ে এমন কিছু তৈরি করে ফেলল, যেটাকে পরে আর কেউ ঠিকমতো নিয়ন্ত্রণ করতে পারল না।( সংগৃহীত)
