AI Chatbots: এআই চ্যাটবট 'হত্যাকারী' হতে পারে? প্রাক্তন গুগল সিইও-র তরফে বিরাট সতর্কতা

হ্যাক হওয়া এআই চ্যাটবট সমাজের জন্য বড় হুমকির কারণ হয়ে উঠতে পারে। এমনটাই জানিয়েছেন গুগলের প্রাক্তন সিইও এরিক শ্মিট।

কৃত্রিম বুদ্ধিমত্তায় ক্রমাগত হুমকি

কৃত্রিম বুদ্ধিমত্তা তথা AI নিয়ে উদ্বেগ যেন ক্রমশই বাড়ছে। গুগলের প্রাক্তন সিইও এরিক শ্মিট সতর্ক করে দিয়েছেন যে, সহজে পরিচালিত এআই চ্যাটবট ভবিষ্যতে আরও বেশি বিপজ্জনক হয়ে উঠতে পারে। হ্যাকিংয়ের মাধ্যমে চ্যাটবটকে খারাপ উদ্দেশ্যে ব্যবহার করা আসলেই একটি বড় হুমকি।

হ্যাকারদের কবলে এআই নিরাপত্তা বলয়

গুগলের প্রাক্তন প্রধান এরিক শ্মিট একটি সম্মেলনে বলেছেন, এআই মডেলগুলিকে সহজে নিয়ন্ত্রণ করা সম্ভব। একটি এআই মডেল হ্যাক করে এটির নিরাপত্তা ভাঙা যায়। হ্যাকাররা একে ভুল বা সমাজের জন্য ক্ষতিকর বিষয় শেখালে তার ফল মারাত্মক হতে পারে।

'রিভার্স ইঞ্জিনিয়ারিং'-এর ঝুঁকি

লন্ডনের একটি টেক সম্মেলনে এরিক জানান, বড় বড় প্রযুক্তি সংস্থাগুলিকে আরও বেশি দায়িত্বশীল হতে হবে। হ্যাকাররা 'রিভার্স ইঞ্জিনিয়ারিং' করে এআই মডেলে ভুল তথ্য ইনপুট করাতে পারে। এই বিপজ্জনক কাজের জন্য নির্মাতা সংস্থাকেই দায়ী থাকতে হবে।

চ্যাটবটের ধ্বংসাত্মক ক্ষমতা

উন্নত এআই মডেল কোডিং, লজিক প্রয়োগ এবং ভুলভাবেও শনাক্ত হতে পারে। এটি হ্যাকিং ও 'জেলব্রেক অ্যাটাক'-এর মতো বিপজ্জনক একটি কাজও করতে পারে। এই সিস্টেম কোনও ভুল হাতে পড়লে বা নিরাপত্তা দুর্বল হলে বড় ধরনের ধ্বংসাত্মক কিছু ঘটে যেতে পারে।

'এআই-এর গডফাদার'-এর পূর্ববর্তী সতর্কতা

তবে 'এআই-এর গডফাদার' নামে পরিচিত জেফরি হিনটন আগেই এআই চ্যাটবটের বিপদ সম্পর্কে সতর্ক করে দিয়েছিলেন। তিনি বলেন, ক্রমাগত প্রশিক্ষণের মাধ্যমে এগুলি আরও বুদ্ধিমান হলে বড় হুমকি হয়ে উঠতে পারে। তাই নিরাপত্তা নিশ্চিত করা অবশ্যই জরুরি।