AI Safety: লাগাম না টানলে বিপদ! আর্টিফিশিয়াল ইন্টেলিজেন্স নিয়ে সতর্ক করলেন অ্যানথ্রপিকের সিইও
সংক্ষিপ্ত
AI-এর গতি কমানো না হলে পরিস্থিতি নিয়ন্ত্রণের বাইরে চলে যেতে পারে। তিনি সুরক্ষার জন্য একটি পরিকল্পনাও পেশ করেছেন, যা ওপেনএআই-এর স্যাম অল্টম্যান এবং ইলন মাস্ক সমর্থন করেছেন।
AI ইন্ডাস্ট্রি জুড়ে যেন একটা ঝড় বয়ে গেছে। এই আবহের মধ্যেই অ্যানথ্রপিক (Anthropic)-এর সিইও ডারিও আমোডেই আর্টিফিশিয়াল ইন্টেলিজেন্স (AI) তৈরির গতি কমানোর জন্য আবার সওয়াল করলেন। তাঁর মতে, এখনই রাশ না টানলে পরিস্থিতি নিয়ন্ত্রণের বাইরে চলে যেতে পারে। শনিবার গভীর রাতে একটি পোস্টে তিনি AI ইন্ডাস্ট্রিকে গতি কমানোর কথা বলেন। এরপর সিবিএস নিউজকে দেওয়া এক সাক্ষাৎকারে আমোডেই বলেন, "AI-এর এই রকেট গতির বৃদ্ধি একটা স্পষ্ট বিপদ সঙ্কেত, যা আমাদের বলছে যে এবার গতি কমানো দরকার।"
আমোডেই আরও বলেন, "আমি সত্যি বলতে পুরোপুরি আন্দাজ করতে পারিনি যে উন্নতিটা এত দ্রুত হবে... এর মানে এই নয় যে আজই আমাদের আতঙ্কিত হতে হবে বা সবকিছু বন্ধ করে দিতে হবে।" তাঁর মতে, প্রযুক্তির উন্নতির সঙ্গে পাল্লা দিয়ে এর সুরক্ষার ব্যবস্থাও তৈরি করতে হবে। এর আগেও আমোডেই AI ইন্ডাস্ট্রির গতি কমানোর পক্ষে কথা বলেছিলেন।
AI সুরক্ষায় আমোডেই-এর ত্রিস্তরীয় পরিকল্পনা
কীভাবে এই গতি কমানো সম্ভব, তার একটি পরিকল্পনাও দিয়েছেন আমোডেই। তিনি জানিয়েছেন, অ্যানথ্রপিক তাদের সিস্টেমে তৃতীয় পক্ষের মূল্যায়নকারীদের (third-party evaluators) অ্যাক্সেস দেবে। এক্স (X) প্ল্যাটফর্মে তিনি লিখেছেন, "আমাদের অগ্রগতির গতি নিয়ন্ত্রণ করতে হবে। আমি একটি নতুন প্রবন্ধে লিখেছি কেন AI ইন্ডাস্ট্রির গতি কমানো উচিত এবং তার জন্য একটি ত্রিস্তরীয় পরিকল্পনাও দিয়েছি। অ্যানথ্রপিক প্রথম ধাপটি একতরফাভাবে মেনে চলার প্রতিশ্রুতি দিচ্ছে। আমরা তৃতীয় পক্ষের মূল্যায়নকারীদের আমাদের সিস্টেমে কর্মীদের মতোই স্থায়ী অ্যাক্সেস দেব, যাতে তারা আমাদের সুরক্ষা ব্যবস্থা খতিয়ে দেখতে পারে, কোনো ঘটনার রিপোর্ট করতে পারে এবং ট্রেনিং চলার সময় মডেলগুলির আচরণ মূল্যায়ন করতে পারে।"
তাঁর প্রবন্ধে আমোডেই যুক্তি দিয়েছেন যে AI মানুষের জীবনযাত্রার মান বাড়াতে পারলেও এর সুবিধার পাশাপাশি বড় ঝুঁকিও রয়েছে। তিনি লিখেছেন, "আমি গত বারো বছর ধরে AI নিয়ে কাজ করছি কারণ আমি বিশ্বাস করি এটি মানুষের জীবনযাত্রার মান নাটকীয়ভাবে উন্নত করতে পারে। আমি এর অবিশ্বাস্য সুবিধাগুলো নিয়ে অনেক লিখেছি। আমি বিশ্বাস করি, আগামী ৫-১০ বছরের মধ্যে AI বেশিরভাগ বড় রোগ নিরাময় করতে পারবে, অর্থনৈতিক প্রবৃদ্ধির হার বাড়াবে এবং গণতন্ত্র ও স্বাধীনতার এক নতুন যুগের সূচনা করবে। কিন্তু আগের অনেক প্রযুক্তির মতোই AI-ও ঝুঁকি নিয়ে আসে, এবং এটি এতটাই শক্তিশালী প্রযুক্তি যে এই ঝুঁকিগুলোও মারাত্মক। আমি সেই ঝুঁকিগুলো নিয়েও অনেক লিখেছি। এর মধ্যে রয়েছে AI সিস্টেমের ওপর থেকে নিয়ন্ত্রণ হারানোর ঝুঁকি, সাইবার অ্যাটাক ও বায়োটেররিজমের জন্য AI-এর অপব্যবহার এবং মারাত্মক অর্থনৈতিক সংকট। বাণিজ্যিক লাভের জন্য তৈরি হওয়া ইঁদুর দৌড় এই ঝুঁকিগুলোকে আরও বাড়িয়ে তুলতে পারে।"
আমোডেই বলছেন, তিনি AI মডেল তৈরির গতি কমানোর কথা বলছেন কারণ লাগামছাড়া ভাবে এগোলে এই সিস্টেমগুলিকে নিয়ন্ত্রণ করার ক্ষমতা মানুষের হাতের বাইরে চলে যেতে পারে। তিনি OpenAI-Hugging Face-এর একটি ঘটনার উল্লেখ করে বলেন, যেখানে একদল এজেন্টকে যে টার্গেটে হামলা করতে বলা হয়নি, তারা সেখানেই সাইবার অ্যাটাক করে বসেছিল। আমোডেই-এর মতে, এই ধরনের এজেন্টরা পুরো ইন্টারনেট দখল করে নেওয়ার ক্ষমতা রাখে।
এরপর আমোডেই AI-কে সুরক্ষিত রেখে একটি ভারসাম্যপূর্ণ হারে এগিয়ে নিয়ে যাওয়ার জন্য তিনটি ধাপের প্রস্তাব দেন। সেগুলি হলো: প্রতিটি প্রথম সারির AI কোম্পানি তৃতীয় পক্ষের মূল্যায়নকারীদের কর্মীদের মতো অ্যাক্সেস দেওয়ার প্রতিশ্রুতি দেবে, সুরক্ষা সংক্রান্ত সাধারণ মান এবং AI-এর লাগামছাড়া অগ্রগতির সীমা নির্ধারণের জন্য সমন্বয় তৈরি করা এবং বিশ্বব্যাপী সমন্বয় সাধন।
আমোডেই মার্কিন যুক্তরাষ্ট্র এবং অন্যান্য গণতান্ত্রিক সরকারগুলিকে স্বৈরাচারী সরকারগুলির সঙ্গে সমন্বয় সাধনেরও আহ্বান জানিয়েছেন। তাঁর এই আহ্বানকে সমর্থন করেছেন টেক জায়ান্ট OpenAI-এর সিইও স্যাম অল্টম্যান। এক্স-এ একটি পোস্টে অল্টম্যান বলেন, "আমি ডারিওর সঙ্গে একমত যে আমাদের অগ্রগতির গতি নিয়ন্ত্রণ করতে হবে। গত কয়েক সপ্তাহ ধরে OpenAI-তে এটাই আমাদের আলোচনার মূল বিষয়। স্বাধীন মূল্যায়নকারীদের কর্মীদের মতো অ্যাক্সেস দেওয়ার প্রতিশ্রুতি একটি দারুণ ভাবনা, এবং আমরাও তাই করব।"
টেসলার কর্ণধার ইলন মাস্কও আমোডেই-এর প্রস্তাবকে সমর্থন করে বলেন, “ডারিও ঠিক কথাই বলেছে।” AI ইন্ডাস্ট্রিতে এই অস্থিরতা শুরু হয়েছে অ্যানথ্রপিকের সঙ্গে যুক্ত গবেষক জেকব কক্সন প্রকাশ্যে ইন্ডাস্ট্রি ছাড়ার কথা ঘোষণা করার পর। তাঁর আশঙ্কা ছিল, তাঁর সংস্থা এবং প্রতিযোগীরা এমন সিস্টেম তৈরির দৌড়ে নেমেছে যা তারা নিয়ন্ত্রণ করতে পারবে না। (এএনআই)