কন্টেন্ট
- পক্ষপাতদুষ্ট ফলাফল
- কোনও বাগ নেই, কোনও স্ট্রেস নেই - আপনার জীবনকে বিনষ্ট না করে জীবন-পরিবর্তনশীল সফটওয়্যার তৈরির ধাপে গাইড আপনার ধাপ
- অ্যালগরিদমের যত্ন এবং খাওয়ানো
- এআই আলকেমি
- ব্ল্যাক বক্সের বাইরে: সিদ্ধান্তগুলি কী নির্ধারণ করে তা আবিষ্কার করে
সূত্র: এসডেকোরেট / ড্রিমসটাইম ডটকম
ছাড়াইয়া লত্তয়া:
একটি এআই সিস্টেমের আউটপুটকে বিশ্বাস করতে, এটির প্রক্রিয়াগুলি বুঝতে এবং এটি কীভাবে তার সিদ্ধান্তে পৌঁছেছে তা বুঝতে সক্ষম হওয়া জরুরী। কোনও সম্ভাব্য পক্ষপাত দূর করার মূল ব্যাখ্যা হ'ল ব্যাখ্যাযোগ্য এআই।
আপনি এআই বিশ্বাস করতে পারেন? প্রশ্ন ছাড়াই আপনার উদ্দেশ্যগুলি নিখুঁতভাবে বৈধ হিসাবে গ্রহণ করা উচিত? সমস্যাটি হ'ল এমনকি এআইকে প্রশ্নবিদ্ধ করলেও স্পষ্ট উত্তর পাওয়া যায় না।
এআই সিস্টেমগুলি সাধারণত একটি কালো বাক্সের মতো পরিচালিত হয়: ডেটা ইনপুট এবং ডেটা আউটপুট, তবে সেই ডেটাগুলিকে রূপান্তরকারী প্রক্রিয়াগুলি একটি রহস্য। এটি দ্বিগুণ সমস্যা তৈরি করে। একটি হ'ল এটি স্পষ্ট নয় যে কোন অ্যালগরিদমের অভিনয় সবচেয়ে নির্ভরযোগ্য। অপরটি হ'ল আপাতদৃষ্টিতে উদ্দেশ্যমূলক ফলাফলগুলি সিস্টেমের প্রোগ্রাম করা মানুষের মূল্যবোধ এবং পক্ষপাতিত্বের দ্বারা স্কু করা যেতে পারে। এই কারণেই এই জাতীয় সিস্টেমগুলি ব্যবহারের ভার্চুয়াল চিন্তাভাবনা প্রক্রিয়াগুলির জন্য স্বচ্ছতা বা "ব্যাখ্যাযোগ্য এআই" দরকার।
জিডিপিআর সাপেক্ষে যে কেউ নৈতিক নীতিগত আইনী হয়ে উঠেছে, এটি কেবল ইইউ ভিত্তিক ব্যবসায়কেই নয়, সেখানকার লোক বা সংস্থার সাথে লেনদেনকারী যে কোনও ব্যবসায়কে প্রভাবিত করে। এটিতে ডেটা সুরক্ষার বিষয়ে প্রচুর বিধান রয়েছে যা ইইউ নাগরিকদের "কিছু নির্দিষ্ট পরিস্থিতিতে ব্যতীত কেবল স্বয়ংক্রিয় সিদ্ধান্ত গ্রহণের অধীন না হওয়ার অধিকার" এবং "সিদ্ধান্তে জড়িত যুক্তি সম্পর্কে অর্থপূর্ণ তথ্য সরবরাহ করার অধিকার" সম্পর্কে প্রসারিত । "
অন্য কথায়, এটি বলার অপেক্ষা রাখে না যে, "অ্যালগোরিদম আপনার আবেদন প্রত্যাখ্যান করেছে।" এমন চিন্তাভাবনার রেখাটি ব্যাখ্যা করার আইনী আদেশ রয়েছে যা মানুষের জীবনে প্রভাব ফেলেছে এমন সিদ্ধান্তে পৌঁছায়। (এআই এর উপকারিতা এবং বিষয়গুলি সম্পর্কে আরও জানতে, মেশিন লার্নিংয়ের প্রতিশ্রুতি এবং ক্ষতিগুলি দেখুন))
পক্ষপাতদুষ্ট ফলাফল
কিছু লোক অ্যালগরিদমিক সিদ্ধান্ত সম্পর্কে যে উদ্বেগ উত্থাপন করেছে তা হ'ল উদ্দেশ্যমূলক যুক্তির পক্ষে দাঁড়িয়েও তারা পক্ষপাতদুষ্টিকে আরও শক্তিশালী করতে পারে। ক্যাথী ওনিল এই যুক্তিটির মূলে রয়েছে যে "গণিত ধ্বংসের অস্ত্র: কীভাবে বড় ডেটা বৈষম্যকে বৃদ্ধি করে এবং গণতন্ত্রকে হুমকি দেয়।" বড় ডেটার সাথে যুক্ত হওয়া অবাস্তবতার উপস্থিতি এটিই এর প্রয়োগগুলিতে এটিকে এত ক্ষতিকারক করে তোলে যা প্রকৃতপক্ষে পক্ষপাতিত্বকে শক্তিশালী করে তোলে ।
তিনি যাকে "গণিতের ধ্বংস" বলেছিলেন সেটি হ'ল "মডেলগুলির ফলে বাধা আরও শক্তিশালী হয়, নির্দিষ্ট জনসংখ্যার জনগোষ্ঠীকে creditণ, শিক্ষার সুযোগ, চাকরির সুযোগ, প্যারোল ইত্যাদির যোগ্য হিসাবে চিহ্নিত করে তাদেরকে বঞ্চিত করা হয়।"
তিনি অ্যালগরিদমিক পক্ষপাতগুলি সন্ধানে একা নন। ২০১ In সালে প্রো পাবলিকা তার অনুসন্ধানগুলি ভাগ করে নিয়েছে যে অ্যালগরিদমরা সাদাদের চেয়ে কৃষ্ণাঙ্গদের জন্য আরও বেশি পুনরুদ্ধার হারের পূর্বাভাস দিয়েছে, এটি এমন একটি কারণ যা একই ধরণের অপরাধের জন্য বিভিন্ন কারাগারে সাজাতে অনুবাদ করে। একটি 2017 অভিভাবক নিবন্ধ লিঙ্গকেও পক্ষপাতিত্ব বাড়িয়েছে।
সমস্যাটি হ'ল এই সিস্টেমগুলি সুদূরপ্রসারী পরিণতি সহ প্রোগ্রামেড হয়। কলিব্রার সহ-প্রতিষ্ঠাতা ও সিটিও স্টিজন ক্রিশ্চিয়েনস একটি ফোনের সাক্ষাত্কারে তিনি ব্যাখ্যা করেছিলেন যে এআই "স্বয়ংক্রিয় সিদ্ধান্ত গ্রহণ" সক্ষম করে, যা প্রতি সেকেন্ডে ১০ হাজারেরও বেশি সিদ্ধান্তকে ছাড়িয়ে যেতে পারে।
কোনও বাগ নেই, কোনও স্ট্রেস নেই - আপনার জীবনকে বিনষ্ট না করে জীবন-পরিবর্তনশীল সফটওয়্যার তৈরির ধাপে গাইড আপনার ধাপ
কেউ যখন সফ্টওয়্যার মানের সম্পর্কে চিন্তা করে না তখন আপনি আপনার প্রোগ্রামিং দক্ষতা উন্নত করতে পারবেন না।
এর অর্থ হল যে কোনও সিদ্ধান্ত খারাপ সিদ্ধান্ত নিয়েছে এমন কোনও সিস্টেম তার থেকে অনেক বেশি দ্রুতগতিতে পরিণত করবে যে কোনও মানুষের পক্ষে। ক্রিসটিয়েনস বলেছিলেন, যদি সিস্টেমটির পক্ষপাতিত্ব থাকে তবে বিশাল সংখ্যক সিদ্ধান্তগুলি "কিছু লোকের জন্য ক্ষতিকারক" হতে পারে, ক্রিশ্চিয়েনস বলেছিলেন।
অ্যালগরিদমের যত্ন এবং খাওয়ানো
অবশ্যই, এখানে ত্রুটি রয়েছে যা অসম্পূর্ণ বা দুর্বল ডেটা থেকে প্রাপ্ত। উপরের গার্ডিয়ান নিবন্ধে উদ্ধৃত কিছু বিশেষজ্ঞ পক্ষপাতদুষ্ট অ্যালগরিদম ফলাফলের কারণ বলেছিলেন। অক্সফোর্ড বিশ্ববিদ্যালয়ের সান্দ্রা ওয়াচটার এটিকে সংক্ষেপে বলেছিলেন: "বিশ্ব পক্ষপাতদুষ্ট, dataতিহাসিক তথ্য পক্ষপাতদুষ্ট, সুতরাং আমরা পক্ষপাতদুষ্ট ফলাফল পেয়ে অবাক হওয়ার কিছু নেই।"
একই লাইনের পাশাপাশি, ক্রিশ্চিয়েনস বলেছিলেন, "এটি বাস্তব বিশ্বের পর্যবেক্ষণের উপর ভিত্তি করে," এআই "আমাদের পক্ষপাতদর্শন পর্যবেক্ষণ করে এবং যৌনতাবাদী বা বর্ণবাদী আউটপুট তৈরি করে।" আবর্জনা, আবর্জনা হিসাবে পরিচিত যা তার নিজস্ব শর্তাদি প্রয়োগ করে (জিআইজিও) ), তিনি বলেছিলেন যে সমস্যাটি "খাবার" হতে পারে যা প্রশিক্ষণের ডেটা তৈরি করে কারণ এটি ভুল, অসম্পূর্ণ বা পক্ষপাতিত্বমূলক।
বর্ণবাদী এবং যৌনতাবাদী ফলাফলগুলি সিস্টেম থেকে ডেটা থেকে প্রশিক্ষিত হতে পারে যা জনগণের মধ্যে পার্থক্যকে যথাযথভাবে প্রতিনিধিত্ব করে না। তিনি সম্মেলনে বক্তাদের উপর ভিত্তি করে প্রশিক্ষণের ডেটা আঁকার ক্ষেত্রে অফার করেছিলেন যেখানে মহিলাদের মধ্যে মাত্র 20 শতাংশ প্রতিনিধিত্ব থাকতে পারে। যখন এ জাতীয় তির্যক উপস্থাপনের বিষয়ে প্রশিক্ষণ দেওয়া হয়, তখন অ্যালগরিদমের অন্তর্নির্মিত পক্ষপাত থাকবে।
এআই আলকেমি
এআই পক্ষপাত সমস্যাটি সবসময় ডেটা ফিডের কারণে হয় না, তবে এটি তার সিদ্ধান্তগুলি কার্যকরভাবে কার্যকর করে। এই অভিযানের রহস্যটি আলি রহিমি এবং বেন রেচকে এতোটাই আঘাত করেছিল যে তারা এটিকে রসায়নের সাথে তুলনা করে।
যদিও আলকেমির জায়গা থাকতে পারে, গুরুতর পরিণতি সহ স্বয়ংক্রিয় সিদ্ধান্ত সম্পর্কে লোকেরা তাদের প্রশ্নের জবাব হিসাবে এটি চায় না want রহিমি এবং রেচ্ট যেমন বলেছিলেন: "তবে আমরা এখন এমন সিস্টেম তৈরি করছি যা স্বাস্থ্যসেবা এবং নাগরিক বিতর্কে আমাদের অংশগ্রহণকে পরিচালিত করে। আমি এমন এক পৃথিবীতে থাকতে চাই, যার সিস্টেমগুলি কঠোর, নির্ভরযোগ্য, যাচাইযোগ্য জ্ঞানের উপর নির্ভর করে, এবং আলকেমে নয় ”" (স্বাস্থ্যসেবা সম্পর্কিত এআই সম্পর্কে আরও তথ্যের জন্য, দেখুন স্বাস্থ্যসেবাতে 5 টি আশ্চর্যজনক এআই অগ্রগতি ces)
ব্ল্যাক বক্সের বাইরে: সিদ্ধান্তগুলি কী নির্ধারণ করে তা আবিষ্কার করে
এ কারণেই কিছু লোক এআই সিস্টেমগুলির চিন্তাভাবনা প্রক্রিয়ায় স্বচ্ছতা প্রবর্তনের জন্য একটি উপায়ের দিকে চাপ দিচ্ছেন, কেন এটি সিদ্ধান্তে পৌঁছেছে যে এটি কেন সিদ্ধান্তে পৌঁছেছে তা ব্যাখ্যা করে। বিভিন্ন জায়গা থেকে চেষ্টা করা হয়েছে।
আমেরিকান বিশ্ববিদ্যালয়গুলিতে তিনজন অধ্যাপক এবং গবেষকের একটি গ্রুপ ২০১ in সালে একটি সমাধানে কাজ করেছিল যেটিকে তারা লোকাল ইন্টারপ্রিটেবল মডেল-অগ্নোস্টিক ব্যাখ্যা (এলআইএমআই) বলে। তারা এই ভিডিওতে তাদের পদ্ধতির ব্যাখ্যা দেয়:
যদিও এটি সঠিক দিকের একটি পদক্ষেপ ছিল, তবে সমাধানটি পুরোপুরি কার্যকর হয়নি। এবং তাই গবেষণাটি অব্যাহত রয়েছে, এবং জিডিপিআরের আলোকে, ইইউতে যুক্ত যারা রয়েছে তাদের ব্যাখ্যাযোগ্য এআই অর্জনে বিশেষ আগ্রহ আছে।
ব্রাসেল বিশ্ববিদ্যালয়ের কৃত্রিম গোয়েন্দা ল্যাব, এমন একটি সংস্থা যার মধ্যে থেকে ক্রিশ্চিয়েনস সংস্থাটি এই জাতীয় গবেষণায় নিবেদিত স্থানগুলির মধ্যে অন্যতম। ল্যাব চিত্রের স্বীকৃতি নিয়ে কাজ করার উপায় খুঁজে পেয়েছে এবং "নেটওয়ার্ক ভাষাগতভাবে যা দেখেছে এবং কেন হয়েছে তা ব্যাখ্যা করেছে" এটি ছবিতে যা আছে তার সম্পর্কে সিদ্ধান্তে এসে পৌঁছেছে বলে মন্তব্য করেছেন।
ক্রিশ্চিয়েনস ব্যাখ্যা করেছিলেন, “অ্যালগোরিদম সর্বদা একইভাবে কাজ করে। "ইনপুট ডেটা বৈশিষ্ট্যগুলিতে অনুবাদিত হয়” "এআই ল্যাব-এ, তাদের অর্থ রয়েছে" সিদ্ধান্ত গাছের মধ্যে কী ঘটেছিল তা নীচে ড্রিল করে দেখুন ”" সেই ভিত্তিতে, "অনুসরণ করা পথগুলি" দেখা সম্ভব দেখুন কোথায় কিছু ভুল হয়েছে এবং তারপরে "সামঞ্জস্য করুন এবং পুনরায় প্রশিক্ষণ করুন"।
আইবিএম ব্ল্যাক বক্স সমস্যার দিকেও মনোযোগের নির্দেশ দিয়েছে এবং সম্প্রতি এটি একটি সফ্টওয়্যার পরিষেবা দেওয়ার প্রস্তাব করেছে, যা আইবিএম মেঘের মাধ্যমে সিস্টেম চলমান থাকা সত্ত্বেও এআইয়ের সিদ্ধান্তগুলির পক্ষে পক্ষপাত এবং অ্যাকাউন্ট গ্রহণ করবে। সময়মতো সতর্কতা ছাড়াও, পক্ষপাতদুষ্ট ফলাফলগুলি মোকাবেলায় কী ডেটা প্রয়োজন তা পরামর্শ দেয় suggestions
ক্লাউড পরিষেবা ছাড়াও, আইবিএম ভবিষ্যতে পক্ষপাতদুষ্ট ফলাফলগুলি হ্রাস করার চেষ্টা করার জন্য মেশিন লার্নিং সিস্টেম তৈরির সংস্থাগুলির জন্য পরামর্শ দিচ্ছে। সম্ভবত অন্যান্য এআই বিশেষজ্ঞরা আরও ভাল সিস্টেম তৈরিতে সহায়তা করার জন্য পরামর্শে জড়িত হবেন এবং প্রোগ্রামিং হওয়া সম্ভাব্য পক্ষপাতীদের জন্য একটি চেক সরবরাহ করবেন।
আমাদের মনে রাখতে হবে যে এআই সিস্টেমগুলি সেগুলি স্থাপনকারী মানুষের মতো ত্রুটিযুক্ত হতে পারে এবং তাই সিদ্ধান্তের হিসাব দেওয়ার চেয়ে উপরে কেউ নেই।