Technology News: স্মার্ট হলেও AI-কে অন্ধ ভরসা নয়! ক্ষমতা দিলেই বিপদ, কেন 'ইমার্জেন্সি ব্রেক' বসাতে বলছেন সত্য নাদেলা?

Technology News: কৃত্রিম বুদ্ধিমত্তা যত উন্নতই হোক না কেন, তার বুদ্ধিমত্তা আর কাজ করার ক্ষমতা একসঙ্গে থাকা উচিত নয়। মাইক্রোসফট সিইও সত্য নাদেলা কোম্পানিগুলিকে AI মডেলকে অন্ধভাবে ভরসা না করার পরামর্শ দিয়েছেন। তাঁর মতে AI পরামর্শ দিতে পারে, কিন্তু নিজে থেকে কাজ করার অধিকার থাকা উচিত নয়।

Technology News: আমরা AI-কে দিয়ে আর্থিক লেনদেনের পরামর্শ নিচ্ছি, অফিসের গোপন ডেটা বিশ্লেষণ করাচ্ছি, এমনকি কম্পিউটারের সেটিংসও বদলাতে বলছি। কিন্তু সত্য নাদেলা বলছেন, এখানেই সবচেয়ে বড় বিপদ লুকিয়ে আছে।

সম্প্রতি X-এ 'Models as Insider Risks in the Super Intelligence Era' নামে একটি দীর্ঘ পোস্টে মাইক্রোসফট চেয়ারম্যান ও সিইও সতর্ক করেছেন, কোম্পানিগুলিকে ফ্রন্টিয়ার AI মডেলগুলিকে একজন ক্ষমতাশালী কর্মীর মতোই 'ইনসাইডার রিস্ক' হিসেবে দেখা উচিত। 064f

কেন অন্ধ ভরসা ভয়ঙ্কর?

নাদেলার মতে, আগে সাধারণ সফটওয়্যারের কোনও ভুল হলে কোডের কোন লাইনে ভুল আছে তা খুঁজে বের করা যেত। কিন্তু আজকের AI মডেলের ক্ষেত্রে তা সম্ভব নয়। কোন ট্রেনিং ডেটা থেকে সে একটি উত্তর দিল, তা কেউ বলতে পারবে না। অথচ আমরা তাকেই সংস্থার সবচেয়ে গোপন তথ্য দিয়ে দিচ্ছি। ভুল তথ্য দেওয়া, হ্যাক হয়ে যাওয়া বা ভুল সিদ্ধান্ত নেওয়ার ঝুঁকি থেকেই যায়।

তিনি স্পষ্ট বলেছেন, "We simply can’t outsource responsibility for what intelligence does on our behalf." অর্থাৎ, AI যা করবে তার দায় কোম্পানিকেই নিতে হবে, মডেল যে বানিয়েছে সে নেবে না।

সমাধান কী? 'ইমার্জেন্সি ব্রেক'

নাদেলার প্রস্তাব, বুদ্ধিমত্তা আর ক্ষমতাকে আলাদা করতে হবে। তাঁর ভাষায়, "We need to separate the supply of intelligence from the authority over it"।

মানে, AI পরামর্শ দেবে, কিন্তু সেই পরামর্শ মানা হবে কি না, তা ঠিক করবে মানুষ এবং অন্য একটি সিস্টেম। এর জন্য তিনি ৭টি উপায়ের কথা বলেছেন -

১. একটি মাত্র AI মডেলের ওপর ভরসা না করা

২. AI-র প্রতিটি কাজের রেকর্ড রাখা যা কেউ মুছতে পারবে না

৩. বাইরের সংস্থাকে দিয়ে অডিট করানো

৪. AI-র কাজ বন্ধ করার জন্য 'ইমার্জেন্সি ব্রেক' বা কিল সুইচ বানানো

৫. কোনও বড় ভুল হলে তা সবাইকে জানানো।

তাঁর মতে, সবচেয়ে বিশ্বস্ত Super Intelligence সিস্টেম সেটাই হবে, যেটা আমাদের মডেলকে সবচেয়ে কম ভরসা করতে শেখাবে।

আরও খবরের জন্য চোখ রাখুন এশিয়ানেট নিউজ বাংলার হোয়াটসঅ্যাপ চ্যানেলে, ক্লিক করুন এখানে।