কন্টেন্ট
উপস্থাপন করেছেন: আলতাএমএল
প্রশ্ন:
কিছু সংস্থা কেন আধুনিক এআই সিস্টেমগুলিতে "মানব প্রতিক্রিয়া নিয়ন্ত্রণ" যুক্ত করার চিন্তাভাবনা করছে?
উত্তর:
কাটিং এজ এআই প্রযুক্তির সাথে কাজ করা কিছু সংস্থাগুলি এই ব্যবস্থাগুলির জন্য মানবিক নিয়ন্ত্রণ প্রতিষ্ঠায় কাজ করছে, মেশিন লার্নিং এবং গভীর শেখার সরঞ্জামাদি কিছু সরাসরি মানুষের তদারকি করছে। এই সংস্থাগুলি ছোট খেলোয়াড় নয়, গুগলের ডিপমাইন্ড এবং ইলন মাস্কের ওপেনআইএই দুটি বড় সংস্থার উদাহরণ যা কৃত্রিম বুদ্ধিমত্তার অগ্রযাত্রার বিষয়ে হাত মিলিয়ে চলেছে। এই বিষয়টি মাথায় রেখেই, ফলাফলগুলি পৃথক হয় - উদাহরণস্বরূপ, জনগণকে মূল ডেটা সরবরাহ করতে অনিচ্ছুকতার জন্য ডিপমাইন্ড বিতর্কের বিষয় হয়ে দাঁড়িয়েছে, যখন ওপেনএআইআই আরও অনেক ভাল, খোলা কৃত্রিম বুদ্ধি নিয়ন্ত্রণে এর কাজ সম্পর্কে।
এমনকি বিল গেটসের মতো উল্লেখযোগ্য বিষয়গুলিও এই বিষয়টিতে বিবেচনা করেছিল, গেটস বলেছিলেন যে তিনি এমন অনেকের মধ্যে একজন যারা কৃত্রিম অতিমানবুদ্ধির উত্থান সম্পর্কে উদ্বিগ্ন যা কিছু উপায়ে মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে। কস্তুরী তার পক্ষে, "দুর্বৃত্ত এআই" এর সম্ভাবনা সম্পর্কে কিছু উদ্বেগজনক ভাষাও প্রকাশ করেছে।
এটিই সম্ভবত সবচেয়ে জরুরি কারণ যে সংস্থাগুলি এআই-তে মানবিক নিয়ন্ত্রণ প্রয়োগ করতে কাজ করছে - এই ধারণাটি যে কিছু প্রযুক্তিগত এককতার ফলে একটি অতি-শক্তিশালী সংবেদনশীল প্রযুক্তির ফলস্বরূপ মানুষ কেবল আর নিয়ন্ত্রণ করতে পারে না। মানুষের উচ্চাকাঙ্ক্ষার উদয় হওয়ার পর থেকেই, আমরা আমাদের যে শক্তিগুলি সরবরাহ করি তা নিয়ন্ত্রণ করতে পারি তা নিশ্চিত করার জন্য সরঞ্জামগুলি রেখেছি - এটি লাগাম এবং জোতাযুক্ত ঘোড়া, উত্তাপযুক্ত তারে বিদ্যুৎ বা অন্য যে কোনও ধরনের নিয়ন্ত্রণ ব্যবস্থা থাকা, নিয়ন্ত্রণ একটি জন্মগতভাবে মানুষের কাজ এবং তাই এটি বিশ্বের সমস্ত ধারণা তৈরি করে যে কৃত্রিম বুদ্ধি যেমন বাস্তব কার্যকারিতার নিকটবর্তী হয়, মানুষ সেই ক্ষমতাকে আটকে রাখার জন্য নিজস্ব প্রত্যক্ষ নিয়ন্ত্রণ প্রয়োগ করে।
তবে, সুপার-বুদ্ধিমান রোবটগুলির ভয় কেবলমাত্র কারণ নয় যে সংস্থাগুলি মেশিন লার্নিং এবং এআই প্রকল্পগুলিতে মানুষের নিয়ন্ত্রণ প্রয়োগ করে। আর একটি বড় কারণ হচ্ছে মেশিন পক্ষপাতিত্ব - এটি এই ধারণাটি যে কৃত্রিম বুদ্ধিমত্তা সিস্টেমগুলি প্রায়শই সীমিত হয়ে থাকে যেভাবে তারা প্রশ্নের মধ্যে থাকা ডেটার মূল্যায়ন করে - যাতে তারা সিস্টেমে অন্তর্নিহিত কোনও পক্ষপাতকে প্রশস্ত করে তোলে। মেশিন লার্নিংয়ের সাথে কাজ করে এমন বেশিরভাগ পেশাদাররা আইটি সিস্টেমগুলি সম্পর্কে হরর গল্প বলতে পারেন যা মানব ব্যবহারকারী গোষ্ঠীগুলির সাথে একসাথে আচরণ করতে সক্ষম ছিল না - তা লিঙ্গ বা জাতিগত বৈষম্য, বা আমাদের মানব সমাজগুলির সংক্ষিপ্ততাগুলি বুঝতে পেরে সিস্টেমের অন্য কোনও ব্যর্থতা এবং আমরা কীভাবে মানুষের সাথে যোগাযোগ করি।
এক অর্থে, আমরা সিস্টেমগুলিতে মানুষের নিয়ন্ত্রণ রাখতে পারি কারণ আমরা ভয় করি যে এগুলি খুব শক্তিশালী হতে পারে - অথবা পর্যায়ক্রমে, কারণ আমরা ভয় করি যে তারা যথেষ্ট শক্তিশালী নাও হতে পারে। মানব নিয়ন্ত্রণগুলি আরও নির্ভুলতা সরবরাহ করতে মেশিন লার্নিং ডেটা সেটগুলিকে লক্ষ্য করতে সহায়তা করে। এগুলি ধারণাগুলিকে শক্তিশালী করতে সহায়তা করে যে কম্পিউটার কেবল নিজেরাই শিখতে পারে না, কারণ মডেলটি যথেষ্ট পরিশীলিত নয়, কারণ এআই যথেষ্ট উন্নত হয়নি, বা কিছু জিনিস কেবলমাত্র মানুষের জ্ঞান প্রদেশে রয়েছে lie কৃত্রিম বুদ্ধিমত্তা কিছু জিনিসের জন্য দুর্দান্ত - উদাহরণস্বরূপ, একটি পুরষ্কার এবং স্কোর-ভিত্তিক সিস্টেম একটি কৃত্রিম বুদ্ধিমত্তাকে অত্যন্ত জটিল বোর্ড গেম "গো"-তে একটি মানব খেলোয়াড়কে পরাজিত করার অনুমতি দেয় - তবে অন্যান্য জিনিসগুলির জন্য, এই প্রণোদনা ভিত্তিক সিস্টেমটি সম্পূর্ণ অপর্যাপ্ত।
সংক্ষেপে, কৃত্রিম বুদ্ধিমত্তা প্রকল্পগুলি কীভাবে কাজ করে তাতে সরাসরি ব্যবহারকারীদের সরাসরি জড়িত রাখার জন্য অনেকগুলি বাধ্যতামূলক কারণ রয়েছে। এমনকি সেরা কৃত্রিম বুদ্ধিমত্তা প্রযুক্তিগুলি নিজেরাই প্রচুর চিন্তাভাবনা করতে পারে - তবে এমন কোনও বাস্তব জৈবিক মস্তিষ্ক ছাড়া যা আবেগ এবং সামাজিক আরও বেশি কিছু নিয়ে প্রক্রিয়া করতে পারে, তারা কেবল বড় আকারে কোনও মানুষের মতো দেখতে পায় না।
একটি দক্ষ মেশিন লার্নিং সংস্থা ব্যবসায় এবং বিষয়-বিশেষজ্ঞ এবং মেশিন লার্নিং বিকাশকারীদের বড় ব্যবসায়ের সমস্যাগুলি সমাধান করার দক্ষতার মিশ্রণের সাথে এই ভারসাম্য হ্রাস করতে সহায়তা করতে পারে।
