Ethics of Machine Learning (machine learning ဆိုင်ရာ ကျင့်ဝတ်)

A4.4.1: Discuss the ethical implications of machine learning in real-world scenarios (accountability, algorithmic fairness, bias, consent, environmental impact, privacy, security, societal impact, transparency; biases in training data; online communication ethics).
မြန်မာလို: လက်တွေ့ ကမ္ဘာက အခြေအနေတွေမှာ machine learning (ဒေတာကနေ သင်ယူတဲ့ စနစ်) ရဲ့ ကျင့်ဝတ်ဆိုင်ရာ အကျိုးဆက်တွေကို Discuss (အမြင် အမျိုးမျိုးကို ချိန်ဆပြီး ဆွေးနွေးပါ) လုပ်ပါ (accountability (တာဝန်ခံမှု)၊ algorithmic fairness (algorithm တွေရဲ့ ဆုံးဖြတ်ချက် မျှတမှု)၊ bias (ဘက်လိုက်မှု)၊ consent (သဘောတူ ခွင့်ပြုချက်)၊ environmental impact (သဘာဝ ပတ်ဝန်းကျင်အပေါ် သက်ရောက်မှု)၊ privacy (ကိုယ်ရေးကိုယ်တာ လုံခြုံမှု)၊ security (လုံခြုံရေး)၊ societal impact (လူ့အဖွဲ့အစည်းအပေါ် သက်ရောက်မှု)၊ transparency (ပွင့်လင်းမြင်သာမှု)၊ training data (model သင်ယူဖို့ ပေးတဲ့ ဒေတာ) ထဲက bias များ၊ online ဆက်သွယ်ရေး ကျင့်ဝတ်)။ A4.4.1 က IB Computer Science (နိုင်ငံတကာ ကျောင်းတွေမှာ သင်တဲ့ ကွန်ပျူတာသိပ္ပံ သင်ရိုး) ရဲ့ သင်ရိုးထဲက အပိုင်း နံပါတ်ပါ။

ကျင့်ဝတ်ဆိုင်ရာ ရှုထောင့် ကိုးခု: privacy၊ consent၊ bias၊ accountability နဲ့ တခြား ရှုထောင့်တွေ၊ တစ်ခုစီမှာ တစ်ကြောင်းတည်းနဲ့ စစ်မေးတဲ့ မေးခွန်း ပါပါတယ်။

Bias ဘယ်ကလာသလဲ: မမျှတမှု အများစုက training data ကနေ ဝင်လာပါတယ်၊ historical bias (အတိတ်က မမျှတမှုကို မှတ်တမ်းတင်ထားတဲ့ ဒေတာကြောင့် ဖြစ်တဲ့ bias) နဲ့ sampling bias (လူထုကို ကိုယ်စားမပြုတဲ့ နမူနာကြောင့် ဖြစ်တဲ့ bias) လို ပုံစံတွေနဲ့ပါ။

Online ဆက်သွယ်ရေး ကျင့်ဝတ်: content တွေကို အဆင့်စီတာနဲ့ စိစစ် ထိန်းချုပ်တာက misinformation (မှားယွင်းတဲ့ သတင်းအချက်အလက်)၊ filter bubble (ကိုယ် ယုံပြီးသား အမြင်တွေကိုပဲ မြင်ရခြင်း)၊ online နှောင့်ယှက်မှု (harassment) နဲ့ anonymity (အမည်မသိ နေနိုင်ခြင်း) ပြဿနာတွေကို ဖြစ်စေပါတယ်။

“Discuss” မေးခွန်းကို ဘယ်လို ဖြေမလဲ: တစ်ဖက်ကို အရင်ပေး၊ ပြီးရင် နောက်တစ်ဖက်၊ ပြီးတော့ နှစ်ဖက်ကို ချိန်ဆတဲ့ ကောက်ချက်။

မာတိကာ

ခြုံငုံ မိတ်ဆက်
ကျင့်ဝတ်ဆိုင်ရာ ရှုထောင့် ကိုးခု
Bias ဘယ်ကလာသလဲ: Training Data (model သင်ယူဖို့ ပေးတဲ့ ဒေတာ)
Online ဆက်သွယ်ရေး ကျင့်ဝတ်
“Discuss” မေးခွန်းကို ဘယ်လို ဖြေမလဲ
1. လုပ်ပြထားတဲ့ ဥပမာ
Quick Check (အမြန် စစ်ဆေးမေးခွန်း)
သက်ဆိုင်တဲ့ ရှုထောင့်ကို ရှာပါ
Practice Exercises (လေ့ကျင့်ခန်းများ)
ဆက်စပ် ခေါင်းစဉ်များ

ခြုံငုံ မိတ်ဆက်

Machine learning စနစ်တွေက အရင်က လူတွေ လုပ်ခဲ့တဲ့ ဆုံးဖြတ်ချက်တွေကို အခု ချပေးနေတယ် ဒါမှမဟုတ် ပုံဖော်ပေးနေပါတယ်: ဘယ်သူ ချေးငွေ ရမလဲ၊ ဝန်ထမ်းခေါ်သူက ဘယ် အလုပ်လျှောက်လွှာတွေကို အရင် မြင်ရမလဲ၊ ဆရာဝန်ကို ဘာအကြောင်း သတိပေးမလဲ၊ ကိုယ့် feed (ကိုယ့်ဆီ ပြပေးတဲ့ post စာရင်း) ထဲမှာ ဘယ် post တွေ ပေါ်မလဲ။ စနစ် တစ်ခုက အဲဒီ ဆုံးဖြတ်ချက်တွေကို အကြိမ်ရေ အမြောက်အများ ချတဲ့အခါ အမှား သေးသေးလေးတွေက သေးငယ်တော့ မနေပါဘူး။ ဘက်လိုက်တဲ့ စည်းမျဉ်း တစ်ခုတည်းကို ဆုံးဖြတ်ချက် တစ်သန်းမှာ ထပ်ခါထပ်ခါ ကူးသုံးလိုက်တဲ့အခါ ထိခိုက်မှု ပုံစံ တစ်ခု ဖြစ်လာပါတယ်။

ဒီစာမျက်နှာမှာ ဘယ် machine learning စနစ်ကိုမဆို မယုံကြည်ခင် မေးရမယ့် မေးခွန်းတွေ ပါပါတယ်: မျှတရဲ့လား။ မှားသွားရင် ဘယ်သူ တာဝန်ခံမလဲ။ ဘယ် ဒေတာကို သုံးပြီး train (ဒေတာနဲ့ လေ့ကျင့်ပေးခြင်း) လုပ်ထားသလဲ၊ အဲဒီ ဒေတာအတွက် ဘယ်သူ့ privacy ကို ပေးဆပ်ခဲ့ရသလဲ။ ဆုံးဖြတ်ချက်ကို ဘာကြောင့် ချခဲ့သလဲ ဆိုတာ တစ်ယောက်ယောက် ရှင်းပြနိုင်ရဲ့လား။ ပြဿနာ တစ်ခုစီအတွက် ဘယ်သူ သက်ရောက်ခံရလဲ၊ ဘာတွေ မှားသွားနိုင်လဲ၊ အန္တရာယ်တွေကို ဘယ်လို ဖြေရှင်းနိုင်လဲ ဆိုတာ ထည့်စဉ်းစားပါ။

ဒီမှာ အကဲဖြတ်တဲ့ ကျွမ်းကျင်မှုက အလွတ်ကျက်ထားတာကို ပြန်ပြောတာ မဟုတ်ဘဲ ချိန်ဆ ဆုံးဖြတ်နိုင်မှု ဖြစ်ပါတယ်။ အန္တရာယ်တွေကို စာရင်းလုပ်ဖို့ မဟုတ်ဘဲ အပြန်အလှန် ဆန့်ကျင်နေတဲ့ ထည့်စဉ်းစားစရာတွေကို ချိန်ဆပြီး ခိုင်လုံတဲ့ ရပ်တည်ချက် တစ်ခုကို ရောက်ဖို့ မျှော်လင့်ပါတယ်။ အောက်ခြေနားက “Discuss” မေးခွန်းကို ဘယ်လို ဖြေမလဲ အပိုင်းမှာ အဲဒါကို ဘယ်လို ဖွဲ့စည်းမလဲ အတိအကျ ပြထားပါတယ်။

ကိုယ်တိုင် စမ်းကြည့်ပါ: machine learning playground (machine learning ကို ကိုယ်တိုင် စမ်းသပ်ကြည့်လို့ရတဲ့ tool) က ဘက်လိုက်ခဲ့တဲ့ အတိတ် မှတ်တမ်း ပါတဲ့ ချေးငွေ ဒေတာနဲ့ တကယ့် classifier (ဒေတာကို အမျိုးအစား ခွဲပေးတဲ့ model) တစ်ခုကို train လုပ်ပေးပါတယ်။ စုစုပေါင်း accuracy (ခန့်မှန်းချက် မှန်တဲ့ အချိုး) က မြင့်နေပေမယ့် ရပ်ကွက် အလိုက် ပြတဲ့ ရလဒ်ကတော့ model က သူ့ label (ဥပမာ တစ်ခုစီမှာ တပ်ထားတဲ့ အဖြေမှန်) တွေကနေ သင်ယူခဲ့တဲ့ မမျှတမှုကို ပြနေတာကို ကြည့်ပါ။

ကျင့်ဝတ်ဆိုင်ရာ ရှုထောင့် ကိုးခု

Syllabus (IB သင်ရိုး) က machine learning စနစ် တစ်ခုကို အကဲဖြတ်တဲ့အခါ ချိန်ဆရမယ့် ကျင့်ဝတ်ဆိုင်ရာ ရှုထောင့် (dimension) ကိုးခုကို ဖော်ပြထားပါတယ်။ Fairness (မျှတမှု) က ရည်မှန်းချက် ဖြစ်ပြီး bias က စနစ် တစ်ခု အဲဒီ ရည်မှန်းချက်ကို မမီတဲ့ ပုံစံ ဖြစ်လို့ bias နဲ့ algorithmic fairness ကို အောက်မှာ အပိုင်း တစ်ခုတည်းမှာ ပေါင်းထားပါတယ်။ ဒါကြောင့် ရှုထောင့် ကိုးခုကို အပိုင်း ရှစ်ပိုင်းနဲ့ ဖော်ပြထားပါတယ်။ လက်တွေ့မှာ သူတို့ ထပ်နေတတ်ပေမယ့် တစ်ခုစီက အခြေအနေ တစ်ခုအကြောင်း မေးစရာ မတူတဲ့ မေးခွန်း တစ်ခုစီကို ပေးပါတယ်။

1. Privacy (ကိုယ်ရေးကိုယ်တာ လုံခြုံမှု)

Machine learning က ဒေတာကို အလွန် လိုအပ်ပြီး အသုံးအဝင်ဆုံး ဒေတာက မကြာခဏ အကိုယ်ရေးအကျဆုံး ဒေတာ ဖြစ်နေတတ်ပါတယ်: ကျန်းမာရေး မှတ်တမ်း၊ သွားခဲ့တဲ့ နေရာ မှတ်တမ်း၊ message တွေ၊ ဝယ်ယူမှုတွေ၊ မျက်နှာတွေ။ Privacy ဆိုတာ လူတွေက သူတို့ကိုယ်သူတို့ အကြောင်း အချက်အလက်တွေကို ဆက်ပြီး ထိန်းချုပ်ထားနိုင်ရဲ့လား ဆိုတဲ့ မေးခွန်းပါ။

Model (ဒေတာကနေ သင်ယူပြီး ခန့်မှန်းပေးတဲ့ စနစ်) တစ်ခုက privacy ကို နည်းလမ်း နှစ်မျိုးနဲ့ ပေါက်ကြားစေနိုင်ပါတယ်။ သိသာတဲ့ နည်းက training data ကိုယ်တိုင်ပါ: လူနာ မှတ်တမ်းတွေနဲ့ ရောဂါ ရှာဖွေရေး model ကို train လုပ်တဲ့ ဆေးရုံ တစ်ရုံက အထိခိုက်လွယ်တဲ့ ဒေတာတွေကို နေရာ တစ်ခုတည်းမှာ စုထားတာ ဖြစ်ပြီး အဲဒီမှာ ဒေတာ ပေါက်ကြားမှု (breach) ဖြစ်ရင် ဆိုးရွားလွန်းပါလိမ့်မယ်။ ပိုသိမ်မွေ့တဲ့ နည်းကတော့ inference (သိပြီးသား အချက်တွေကနေ ကောက်ချက် ဆွဲခြင်း) ပါ: ဈေးဝယ် အလေ့အထတွေနဲ့ train လုပ်ထားတဲ့ model က ကိုယ်ဝန် ရှိနေတာ၊ ကျန်းမာရေး အခြေအနေ ဒါမှမဟုတ် လိင်စိတ် တိမ်းညွတ်မှုကို အဲဒီလူ ဘယ်တုန်းကမှ ဖွင့်မပြောခဲ့ပေမယ့် ကောက်ချက် ဆွဲ သိနိုင်ပါတယ်။ ထိခိုက်မှုက ဒေတာ ခိုးယူခံရတာ မဟုတ်ပါဘူး၊ အန္တရာယ် မရှိဘူးလို့ ထင်ရတဲ့ ဒေတာကနေ စနစ်က ကိုယ်ရေးကိုယ်တာ အချက် တစ်ခုကို တွက်ထုတ် သိရှိသွားတာပါ။

ဥပမာ: စူပါမားကက် တစ်ခုရဲ့ loyalty card (ပုံမှန် ဖောက်သည်တွေကို ပေးတဲ့ အမှတ်စုကတ်) model က ဝယ်ယူပုံ ပြောင်းလဲမှုတွေကနေ ဘယ် ဖောက်သည်တွေ ကိုယ်ဝန် ရှိနိုင်လဲ ခန့်မှန်းပြီး သူတို့ဆီ ကလေး ပစ္စည်း ပရိုမိုးရှင်းတွေ ပို့ပါတယ်။ ဒါကြောင့် အဲဒီ အိမ်ကို စာတိုက်ကနေ ရောက်လာတဲ့ စာတွေကို မြင်တဲ့ ဘယ်သူမဆို အဲဒီ ခန့်မှန်းချက်ကို သိသွားပါတယ်။

2. Security (လုံခြုံရေး)

Security ဆိုတာ စနစ်နဲ့ သူ့ ဒေတာကို တိုက်ခိုက်မှု ဒါမှမဟုတ် အလွဲသုံးစားမှုကနေ ကာကွယ်တာ ဖြစ်ပါတယ်။ Machine learning အတွက် ဒါမှာ ပုံမှန် ဘက်နဲ့ model နဲ့ သီးသန့် ဆိုင်တဲ့ ဘက် ရှိပါတယ်။

ပုံမှန် ဘက်က တန်ဖိုးရှိတဲ့ ဒေတာ သိမ်းထားတဲ့ ဘယ်စနစ်နဲ့မဆို အတူတူပါပဲ: breach ဒါမှမဟုတ် hardware (ကွန်ပျူတာရဲ့ ကိုင်တွယ်လို့ရတဲ့ ရုပ်ပိုင်း အစိတ်အပိုင်းများ) ပျက်စီးမှု ဖြစ်ရင်တောင် training set (train လုပ်ဖို့ သုံးတဲ့ ဒေတာ အစု) ပေါက်ကြား မသွားအောင် ဒါမှမဟုတ် ပျက်စီး မသွားအောင် access control (သုံးခွင့် ထိန်းချုပ်မှု)၊ encryption (ဒေတာကို ဖတ်မရအောင် ပြောင်းခြင်း)၊ backup (အရန် မိတ္တူ) နဲ့ ပြန်လည် ကယ်ဆယ်ရေး လုပ်ထုံးလုပ်နည်းတွေ ထားရပါတယ်။ Model နဲ့ သီးသန့် ဆိုင်တဲ့ ဘက်ကတော့ ပိုအသစ် ဖြစ်ပါတယ်။ Model ဆီကို တမင် ဖန်တီးထားတဲ့ input တွေ ထည့်ပေးနိုင်တဲ့ တိုက်ခိုက်သူက တစ်ခါတလေ သူ့ရဲ့ training ကို poison (training ကို အဆိပ်ခတ်ပြီး နောက်ပိုင်း ခန့်မှန်းချက်တွေကို ပျက်စီးစေခြင်း) လုပ်နိုင်ပါတယ်၊ ဒါမှမဟုတ် adversarial attack (input ကို သေးသေးလေး တမင် ပြောင်းပြီး output ကို ပြောင်းသွားစေတဲ့ တိုက်ခိုက်မှု၊ ဥပမာ ကိုယ်တိုင်မောင်းကား တစ်စီးက လမ်းဆိုင်းဘုတ်ကို မှားဖတ်အောင် ဆိုင်းဘုတ်ပေါ် sticker ကပ်တာ) လုပ်နိုင်ပါတယ်။

ဥပမာ: User တွေ “report spam” ကို နှိပ်တာကနေ သင်ယူတဲ့ spam filter (မလိုလားအပ်တဲ့ အမှိုက် email တွေကို စစ်ထုတ်ပေးတဲ့ program) ကို ပြိုင်ဘက် တစ်ဦးရဲ့ တရားဝင် email တွေကို ပူးပေါင်းပြီး အစုလိုက် report လုပ်တဲ့ လူအုပ်စု တစ်စုက လှည့်စား အသုံးချနိုင်ပါတယ်။ ဒီလိုနဲ့ filter ကို အဲဒီ email တွေကို ပိတ်ဆို့ဖို့ train လုပ်ပေးလိုက်သလို ဖြစ်သွားပါတယ်။

3. Bias and Algorithmic Fairness (ဘက်လိုက်မှုနဲ့ algorithm တွေရဲ့ ဆုံးဖြတ်ချက် မျှတမှု)

Bias ဆိုတာ အုပ်စု တစ်စုကို အသာပေးတဲ့ ဒါမှမဟုတ် နစ်နာစေတဲ့၊ စနစ်တကျ ထပ်ခါထပ်ခါ ဖြစ်နေတဲ့ အမှားပါ။ Algorithmic fairness ဆိုတာ လူမျိုး၊ လိင် ဒါမှမဟုတ် အသက် လို ထူးခြားချက်တွေက တရားဝင် သက်ဆိုင်မှု မရှိတဲ့အခါ အဲဒီ ထူးခြားချက်တွေအပေါ် မမူတည်တဲ့ ဆုံးဖြတ်ချက်တွေ ရဖို့ ရည်မှန်းချက်ပါ။

Model က သင်္ချာနဲ့ တွက်တာ ဖြစ်တာနဲ့ပဲ ဘက်မလိုက်ဘူးလို့ မဆိုနိုင်ပါဘူး။ သူက training data ထဲက pattern (ပုံစံ) တွေကို၊ မမျှတတဲ့ pattern တွေပါ အပါအဝင် သင်ယူပါတယ်။ အတိတ်က ဝန်ထမ်းခေါ်ယူမှုက အုပ်စု တစ်စုကို အသာပေးခဲ့ရင် အဲဒီ မှတ်တမ်းနဲ့ train လုပ်ထားတဲ့ model က အဲဒီ အုပ်စုကို အသာပေးဖို့ သင်ယူသွားပြီး အဲဒါကို တစ်သမတ်တည်း၊ မမြင်ရအောင် လုပ်သွားပါလိမ့်မယ်။ (ဒီ bias ဘယ်ကလာသလဲ ဆိုတာကို နောက် အပိုင်းမှာ ရှင်းပြထားပါတယ်။)

Fairness ရဲ့ အဓိပ္ပာယ် ဖွင့်ဆိုချက် အမျိုးမျိုးက အချင်းချင်း ဆန့်ကျင်နိုင်ပါတယ်။ ရွေးချယ်ခံရတဲ့ နှုန်း တူညီခြင်း၊ အမှား နှုန်း တူညီခြင်းနဲ့ လူ တစ်ဦးချင်းရဲ့ အန္တရာယ်ကို တိတိကျကျ ခန့်မှန်းခြင်းတို့က မတူတဲ့ အရာတွေကို တိုင်းတာပြီး အမြဲ တစ်ပြိုင်နက် မရနိုင်ပါဘူး။ ဘယ် တိုင်းတာမှုကို သုံးမလဲ ဆိုတာကို နည်းပညာ သက်သက်နဲ့ ဖြေလို့ မရပါဘူး: ဒါက တန်ဖိုးထားမှုအပေါ် မူတည်တဲ့ ရွေးချယ်မှု ဖြစ်ပြီး သက်ရောက်ခံရတဲ့ လူတွေနဲ့ အမှား အမျိုးအစား တစ်ခုစီရဲ့ အကျိုးဆက်တွေကို ထည့်စဉ်းစားပြီးနောက် တစ်ယောက်ယောက်က အဲဒီ ရွေးချယ်မှုအတွက် တာဝန်ယူရပါမယ်။

ဥပမာ: ဆယ်စုနှစ်ချီ ချေးငွေ ခွင့်ပြုမှု မှတ်တမ်းတွေနဲ့ train လုပ်ထားတဲ့ ချေးငွေ ခွင့်ပြုရေး model က postcode (နေရပ် ဒေသကို ပြတဲ့ စာတိုက် ကုဒ်) တချို့က လျှောက်ထားသူတွေကို စနစ်တကျ ချေးငွေ ပမာဏ ပိုနည်းအောင် ပေးပါတယ်။ ဘာလို့လဲဆိုတော့ အဲဒီ postcode တွေက အတိတ်မှာ ဘဏ်တွေက ဝန်ဆောင်မှု လုံလုံလောက်လောက် မပေးခဲ့တဲ့ အုပ်စု တစ်စုနဲ့ ဆက်စပ်နေလို့ပါ။

4. Accountability (တာဝန်ခံမှု)

အလိုအလျောက် ချတဲ့ ဆုံးဖြတ်ချက် တစ်ခုက ထိခိုက်မှု ဖြစ်စေတဲ့အခါ accountability က မေးပါတယ်: ဘယ်သူ တာဝန်ရှိသလဲ။ Model ကို တည်ဆောက်ခဲ့တဲ့ developer (software ရေးသူ) လား။ အဲဒါကို deploy (သုံးစွဲသူတွေ သုံးလို့ရအောင် server ပေါ် တင်ခြင်း) လုပ်ခဲ့တဲ့ ကုမ္ပဏီလား။ သူ့ output အတိုင်း လုပ်ဖို့ ရွေးခဲ့တဲ့ လူလား။

အန္တရာယ်က accountability gap (တာဝန်ခံမယ့်သူ မရှိတော့တဲ့ ကွက်လပ်) ပါ: လူတိုင်းက algorithm (အယ်လ်ဂိုရီသမ်၊ ပြဿနာကို အဆင့်ဆင့် ဖြေရှင်းတဲ့ နည်းလမ်း) ကို လက်ညှိုးထိုးပြီး algorithm ကိုတော့ တာဝန်ခံခိုင်းလို့ မရပါဘူး။ “စနစ်က သင့်ကို flag (သတိပေး အမှတ်အသား) လုပ်လိုက်တယ်” ဆိုတာက လူ တစ်ယောက်က ပြန်ငြင်းခုံနိုင်တဲ့ ဒါမှမဟုတ် အယူခံ တင်နိုင်တဲ့ အဖြေ မဟုတ်ပါဘူး။ ကောင်းတဲ့ အလေ့အကျင့်က အရေးကြီးတဲ့ ဆုံးဖြတ်ချက်တွေအတွက် လူ တစ်ယောက်ကို တာဝန်ခံအဖြစ် ထားပြီး ဆုံးဖြတ်ချက် တစ်ခုကို နောက်မှ ပြန်ခြေရာခံ စစ်ဆေးနိုင်အောင် မှတ်တမ်းတွေ (log (ဖြစ်ခဲ့တာတွေကို အစဉ်လိုက် မှတ်ထားတဲ့ မှတ်တမ်း)၊ version history (ပြောင်းလဲမှု အဆင့်ဆင့်ရဲ့ မှတ်တမ်း)) ကို ထိန်းသိမ်းထားပါတယ်။

ဥပမာ: ကိုယ်တိုင် သွားလာတဲ့ ပစ္စည်းပို့ robot တစ်ခုက လမ်းလျှောက်သူ တစ်ယောက်ကို ဒဏ်ရာ ရစေပါတယ်။ ထုတ်လုပ်သူက software က ဒီဇိုင်းဆွဲထားတဲ့ အတိုင်း အလုပ်လုပ်ခဲ့တယ်လို့ ပြောပါတယ်။ လည်ပတ်သူကတော့ ထုတ်လုပ်သူရဲ့ ဘေးကင်းရေး အာမခံချက်တွေကို ယုံခဲ့တယ်လို့ ပြောပါတယ်။ လမ်းလျှောက်သူမှာတော့ တာဝန်ခံခိုင်းနိုင်မယ့် ရှင်းလင်းတဲ့ ဘက် မရှိပါဘူး။

Consent ဆိုတာ အချက်အလက် သိရှိထားတဲ့ လူ တစ်ယောက်က သူ့ ဒေတာကို သတ်မှတ်ထားတဲ့ နည်းလမ်း တစ်ခုနဲ့ စုဆောင်း သုံးစွဲဖို့ လွတ်လွတ်လပ်လပ် ပေးတဲ့ ခွင့်ပြုချက်ပါ။ Machine learning မှာ အများဆုံး ပျောက်နေတတ်တဲ့ အစိတ်အပိုင်း တစ်ခု ဖြစ်ပါတယ်။

ဒေတာကို ရည်ရွယ်ချက် တစ်ခုအတွက် စုဆောင်းပြီး နောက်ပိုင်းမှာ ဘယ်သူမှ ပြန်မမေးဘဲ တခြား ရည်ရွယ်ချက်အတွက် model ကို train လုပ်ဖို့ ပြန်သုံးတာ မကြာခဏ ဖြစ်ပါတယ်။ ဓာတ်ပုံတွေကို အများမြင်အောင် တင်ခဲ့တဲ့ လူတွေက အဲဒီ ဓာတ်ပုံတွေနဲ့ face-recognition (မျက်နှာကို မှတ်မိ ခွဲခြားတဲ့) စနစ် တစ်ခုကို train လုပ်ဖို့ သဘောမတူခဲ့ပါဘူး။ စမ်းသပ်နေတဲ့ ယာဉ် တစ်စီးနဲ့ လမ်း မျှသုံးနေရတဲ့ လူထုကလည်း အဲဒီ စမ်းသပ်ချက်ရဲ့ အစိတ်အပိုင်း ဖြစ်ဖို့ သဘောမတူခဲ့ပါဘူး။ တကယ့် consent က informed (ကိုယ် ဘာကို သဘောတူနေလဲ လူတွေ နားလည်တဲ့) နဲ့ specific (ဒီ အသုံးပြုမှုကို ဖုံးလွှမ်းတဲ့၊ “နောက်မှ စဉ်းစားမိသမျှ ဘာမဆို” မဟုတ်တဲ့) ဖြစ်ရပါမယ်။

ဥပမာ: ကုမ္ပဏီ တစ်ခုက face-recognition product တစ်ခုကို train လုပ်ဖို့ အများမြင်တဲ့ social media ဓာတ်ပုံ သန်းနဲ့ချီကို အလိုအလျောက် ဆွဲယူ (scrape) ပါတယ်။ ဓာတ်ပုံတွေက အများမြင် ဖြစ်ပေမယ့် မျက်နှာ တိုက်စစ်တဲ့ database (ဒေတာ သိမ်းဆည်းတဲ့ စနစ်) ထဲကို ထည့်သွင်းခံရဖို့ ဘယ်သူမှ သဘောမတူခဲ့ပါဘူး။

6. Transparency (ပွင့်လင်းမြင်သာမှု)

Transparency ဆိုတာ စနစ် တစ်ခုက သူ့ ဆုံးဖြတ်ချက်တွေကို ဘယ်လို ချသလဲ ဆိုတာ လူတွေ ဘယ်လောက် မြင်ပြီး နားလည်နိုင်သလဲ ဆိုတဲ့ အတိုင်းအတာပါ။ စနစ်ကို တည်ဆောက်သူတွေကိုယ်တိုင်တောင် output တစ်ခုကို အပြည့်အဝ မရှင်းပြနိုင်တဲ့အခါ အဲဒီ စနစ်က opaque (အထဲကို မမြင်ရတဲ့) ဖြစ်ပါတယ် (“black box”၊ အထဲမှာ ဘာဖြစ်နေလဲ မမြင်ရတဲ့ သေတ္တာ)။

ဆုံးဖြတ်ချက် တစ်ခုက လူ တစ်ယောက်ရဲ့ ဘဝကို သက်ရောက်တဲ့အခါ transparency က အရေးအကြီးဆုံးပါ။ ချေးငွေ ငြင်းပယ်ခံရတဲ့၊ လိမ်လည်မှု စစ်ဆေးတဲ့ စနစ်က flag လုပ်ခံရတဲ့ ဒါမှမဟုတ် အလုပ်ကနေ ငြင်းပယ်ခံရတဲ့ လူ တစ်ယောက်က ဘာကြောင့်လဲ သိချင်တာနဲ့ အဲဒီ အကြောင်းပြချက်ကို ကန့်ကွက်ချင်တာ သင့်လျော်တဲ့ တောင်းဆိုမှု ဖြစ်ပါတယ်။ ရှုပ်ထွေးတဲ့ model တွေ (အထူးသဖြင့် deep neural network (အလွှာ အများကြီး စီထားတဲ့ neuron အတု network)) က accuracy ရဖို့ ရှင်းပြနိုင်မှုကို အလျှော့ပေးရပါတယ်။ ဒါကြောင့် explainable AI (ခန့်မှန်းချက် တစ်ခုအတွက် လူ ဖတ်ပြီး နားလည်နိုင်တဲ့ အကြောင်းပြချက်တွေ ထုတ်ပေးတဲ့ နည်းစနစ်များ) က လက်ရှိ တက်ကြွစွာ လေ့လာနေကြတဲ့ အရေးကြီးတဲ့ နယ်ပယ် ဖြစ်ပါတယ်။

ဥပမာ: ကျောင်းသား တစ်ယောက်ကို တက္ကသိုလ် ဝင်ခွင့်ကို အလိုအလျောက် စစ်ထုတ်တဲ့ စနစ်က ငြင်းပယ်ပါတယ်။ ဘယ် အချက်တွေက ကျောင်းသားအတွက် အားနည်းချက် ဖြစ်ခဲ့သလဲ ဆိုတာ ကျောင်းက မရှင်းပြနိုင်လို့ ဆုံးဖြတ်ချက် မျှတရဲ့လား ကျောင်းသားက မသိနိုင်သလို အဓိပ္ပာယ်ရှိရှိ အယူခံ တင်ဖို့လည်း မဖြစ်နိုင်ပါဘူး။

7. Environmental Impact (သဘာဝ ပတ်ဝန်းကျင်အပေါ် သက်ရောက်မှု)

Model အကြီးတွေကို train လုပ်တာနဲ့ run တာက တကယ့် စွမ်းအင်ကို သုံးပါတယ်။ Environmental impact ဆိုတာ တွက်ချက်မှုရဲ့ carbon (ကာဗွန် ထုတ်လွှတ်မှု) နဲ့ အရင်းအမြစ် ကုန်ကျစရိတ်ပါ: model တစ်ခုကို processor (ညွှန်ကြားချက်တွေကို လုပ်ဆောင်ပေးတဲ့ chip) ထောင်ချီပေါ်မှာ ရက်ပေါင်း ဒါမှမဟုတ် ပတ်ပေါင်း များစွာ train လုပ်ဖို့ လျှပ်စစ်၊ data centre (server အများကြီး ထားတဲ့ အဆောက်အအုံ) ကို အေးအောင် ထားဖို့ ရေနဲ့ ပါဝါ၊ ထုတ်လုပ်ပြီး နောက်ဆုံးမှာ စွန့်ပစ်ရတဲ့ hardware တွေပါ။

နောက်ဆုံး သုံးစွဲသူ (end user) အတွက် ကုန်ကျစရိတ်ကို မမြင်ရလို့ ဒီ ရှုထောင့်ကို မေ့သွားဖို့ လွယ်ပါတယ်။ ဒါပေမယ့် model အကြီး တစ်ခုကို တစ်ကြိမ် train လုပ်တာက အိမ်ထောင်စု အများအပြား တစ်နှစ်မှာ သုံးတဲ့ စွမ်းအင်လောက် သုံးနိုင်ပါတယ်။ ကျင့်ဝတ်ဆိုင်ရာ မေးခွန်းက အကျိုးကျေးဇူးက ကုန်ကျစရိတ်ကို တန်ရဲ့လား၊ ပိုသန့်ရှင်းတဲ့ ရွေးချယ်မှုတွေ (model အသေးတွေ၊ စွမ်းအင် ချွေတာတဲ့ hardware၊ ပြန်လည်ပြည့်ဖြိုးမြဲ စွမ်းအင်နဲ့ run တဲ့ data centre တွေ၊ model အသစ် train လုပ်မယ့်အစား ရှိပြီးသား model ကို ပြန်သုံးခြင်း) ကို ထည့်စဉ်းစားခဲ့ရဲ့လား ဆိုတာပါ။

ဥပမာ: ကုမ္ပဏီ တစ်ခုက ခေတ်မီနေအောင် language model (စာသားကို နားလည်ပြီး ထုတ်ပေးတဲ့ model) အကြီးကြီး တစ်ခုကို လအနည်းငယ် တိုင်း အစကနေ ပြန် train လုပ်ပါတယ်။ တကယ်တော့ ရှိပြီးသား model အသေး တစ်ခုကို fine-tuning (ရှိပြီးသား model ကို ဒေတာ အနည်းငယ်နဲ့ ထပ်ညှိ train ခြင်း) လုပ်ရင် စွမ်းအင် ကုန်ကျစရိတ်ရဲ့ အစိတ်အပိုင်း အနည်းငယ်နဲ့တင် သူ့ လိုအပ်ချက်တွေကို ဖြည့်ဆည်းနိုင်ပါတယ်။

8. Societal Impact (လူ့အဖွဲ့အစည်းအပေါ် သက်ရောက်မှု)

Societal impact ဆိုတာ လက်တွေ့ သုံးနေတဲ့ စနစ် တစ်ခုက သူ တိုက်ရိုက် ကိုင်တွယ်တဲ့ လူ တစ်ဦးချင်းတွေထက် ကျော်ပြီး ရပ်ရွာ အသိုက်အဝန်းတွေနဲ့ လူ့အဖွဲ့အစည်း တစ်ခုလုံးအပေါ် သက်ရောက်မှုပါ။ Machine learning က အလုပ်သမား ဈေးကွက်တွေကို ပြန်ပုံဖော်နိုင်တယ်၊ အကောင်းဆုံး model နဲ့ ဒေတာကို ပိုင်တဲ့သူဆီ အာဏာ စုစည်းသွားစေနိုင်တယ်၊ လူတွေ သတင်းအချက်အလက် ရယူပုံနဲ့ အမြင် ဖွဲ့စည်းပုံကို ပြောင်းလဲစေနိုင်ပါတယ်။

ဒါက အကျယ်ဆုံး ရှုထောင့် ဖြစ်ပြီး Computing in Daily Life (နေ့စဉ်ဘဝထဲက ကွန်ပျူတာ) ခေါင်းစဉ်ထဲ ကူးဝင်သွားပါတယ်။ Machine learning အတွက် အထူးသဖြင့် feedback loop (စနစ်ရဲ့ ရလဒ်က စနစ်ဆီ ပြန် သက်ရောက်တဲ့ သံသရာ) တွေကို သတိထားပါ: လူတွေရဲ့ အပြုအမူကို ပုံဖော်ပြီး ပြီးမှ ကိုယ် ပုံဖော်ခဲ့တဲ့ အပြုအမူကနေ ပြန် သင်ယူတဲ့ စနစ်ပါ။ လှုံ့ဆော်မှု ပြင်းတဲ့ (sensational) content တွေကို တွန်းပို့တဲ့ recommender (ကိုယ် ကြိုက်နိုင်တာကို ရွေးပြပေးတဲ့ စနစ်) က user (သုံးစွဲသူ) တွေကို sensational content ဘက် ယိမ်းအောင် လေ့ကျင့်ပေးသလို ဖြစ်ပြီး ပြီးမှ အဲဒါကို ပိုပြင်းပြင်း တွန်းပို့ဖို့ သင်ယူသွားပါတယ်။

ဥပမာ: လုပ်ငန်းနယ်ပယ် တစ်ခုလုံးမှာ သုံးနေတဲ့ ဝန်ထမ်းခေါ်ယူရေး tool တစ်ခုက “အကောင်းဆုံး လျှောက်ထားသူ” ဆိုတဲ့ အယူအဆ တစ်ခုတည်းဆီ ရောက်သွားပါတယ်။ ဒါကြောင့် အဲဒီ ပုံစံနဲ့ မကိုက်တဲ့ လျှောက်ထားသူတွေကို နေရာတိုင်းမှာ တစ်ပြိုင်နက် စစ်ထုတ်ပစ်ပြီး အဲဒီ အသက်မွေးဝမ်းကျောင်း လုပ်ငန်းထဲ ဘယ်သူ ဝင်နိုင်လဲ ဆိုတာကို ကျဉ်းမြောင်းသွားစေပါတယ်။

ရှုထောင့်တွေ အတူတကွ အလုပ်လုပ်ပုံ

ဒီ ကိုးခုက သီးခြား သေတ္တာတွေ မဟုတ်ဘဲ စနစ်တွေ တစ်ခုတည်းကို ကြည့်တဲ့ ထောင့် အမျိုးမျိုး ဖြစ်ပါတယ်။ ကျောင်း တစ်ကျောင်းက ကုမ္ပဏီ တစ်ခုဆီက ဝယ်တဲ့ essay (စာစီစာကုံး) အမှတ်ပေး tool တစ်ခုက privacy (ကျောင်းသားတွေရဲ့ essay နဲ့ နာမည်တွေ ကုမ္ပဏီဆီ ရောက်သွားတယ်)၊ consent (ကျောင်းသားတွေက သူတို့ရဲ့ လက်ရာနဲ့ ကုမ္ပဏီရဲ့ model ကို train လုပ်ဖို့ သဘောတူခဲ့သလား)၊ security (essay တွေကို ဘယ်မှာ သိမ်းထားသလဲ)၊ bias (ဒုတိယ ဘာသာစကားနဲ့ ရေးတဲ့ ကျောင်းသားတွေကို အမှတ် ပိုနည်းနည်း ပေးသလား)၊ accountability (မမျှတတဲ့ အမှတ် တစ်ခုအတွက် ဘယ်သူ တာဝန်ခံမလဲ၊ ဆရာလား ကုမ္ပဏီလား) နဲ့ societal impact (ကျောင်းသားတွေက စာဖတ်သူအတွက် မဟုတ်ဘဲ software အတွက် စာရေးဖို့ သင်ယူလာခြင်း) တို့ကို ထိတွေ့ပါတယ်။ ခိုင်မာတဲ့ ခွဲခြမ်းစိတ်ဖြာမှုက ရှုထောင့် အများကို နာမည် တပ်ပြီး သူတို့ အချင်းချင်း ဘယ်လို ဆွဲငင် ဆန့်ကျင်နေသလဲ ပြပါတယ်။

ရှုထောင့်	တစ်ကြောင်းတည်းနဲ့ စစ်မေးတဲ့ မေးခွန်း
Privacy	ဒါက ဘယ်သူ့ ကိုယ်ရေးကိုယ်တာ ဒေတာကို သုံးသလဲ၊ သူတို့က အဲဒီ ဒေတာကို ဆက်ပြီး ထိန်းချုပ်နိုင်သလား။
Security	ဒီ စနစ် ဒါမှမဟုတ် သူ့ ဒေတာကို တိုက်ခိုက်၊ ဖောက်ထွင်း ဒါမှမဟုတ် ပျက်စီးအောင် လုပ်လို့ ရနိုင်သလား။
Bias & fairness	မတူအောင် မဆက်ဆံသင့်တဲ့အခါမှာ အုပ်စုတွေကို မတူအောင် ဆက်ဆံသလား။
Accountability	မှားသွားတဲ့အခါ ဘယ်သူ တာဝန်ရှိသလဲ၊ ဆုံးဖြတ်ချက်ကို အယူခံ တင်လို့ ရသလား။
Consent	လူတွေက သူတို့ ဒေတာကို ဒီလို သတ်မှတ်ထားတဲ့ အသုံးပြုမှုအတွက် သိသိကြီး သဘောတူခဲ့သလား။
Transparency	ဆုံးဖြတ်ချက် တစ်ခုကို လူ နားလည်တဲ့ စကားနဲ့ တစ်ယောက်ယောက် ရှင်းပြနိုင်သလား။
Environmental impact	စွမ်းအင်နဲ့ hardware ကုန်ကျစရိတ်က တန်ရဲ့လား။
Societal impact	ဒါက ရပ်ရွာ အသိုက်အဝန်း၊ အလုပ်သမား လောက ဒါမှမဟုတ် အများပြည်သူ ဘဝကို ကျယ်ကျယ်ပြန့်ပြန့် ဘယ်လို ပြောင်းလဲစေသလဲ။

Bias ဘယ်ကလာသလဲ: Training Data (model သင်ယူဖို့ ပေးတဲ့ ဒေတာ)

Machine learning ထဲက မမျှတမှု အများစုကို မကောင်းကြံတဲ့ programmer တစ်ယောက်က ထည့်လိုက်တာ မဟုတ်ပါဘူး။ Training data ကနေ ဝင်လာတာပါ၊ ဘာလို့လဲဆိုတော့ bias ပါတဲ့ ဒေတာနဲ့ train လုပ်ထားတဲ့ model က bias ပါတဲ့ pattern တွေကို သင်ယူလို့ပါ။ ဒေတာ bias ရဲ့ နာမည်တပ်ထားတဲ့ ရင်းမြစ်တွေကို သိထားရင် “ဒေတာက ညံ့တယ်” လို့ ပြောရုံ မဟုတ်ဘဲ အခြေအနေ တစ်ခုကို တိတိကျကျ ခွဲခြမ်း ရှာဖွေနိုင်ပါတယ်။

Bias အမျိုးအစား	ဆိုလိုတာ	ဥပမာ
Historical bias (အတိတ်က မမျှတမှုကို မှတ်တမ်းတင်ထားတဲ့ ဒေတာကြောင့် ဖြစ်တဲ့ bias)	ဒေတာက မမျှတပြီးသား ကမ္ဘာကို သစ္စာရှိရှိ မှတ်တမ်းတင်ထားလို့ model က အဲဒီ မမျှတမှုကို သင်ယူပါတယ်။	အတိတ်က ရာထူးတိုးမှု မှတ်တမ်းတွေနဲ့ train လုပ်ထားတဲ့ model က သမိုင်းအရ ရာထူးတိုး ခံခဲ့ရတဲ့ အုပ်စုကို အသာပေးဖို့ သင်ယူပါတယ်။
Sampling bias (လူထုကို ကိုယ်စားမပြုတဲ့ နမူနာကြောင့် ဖြစ်တဲ့ bias)	ဒေတာကို လူထုကို ကိုယ်စားပြုနိုင်တဲ့ အစိတ်အပိုင်း တစ်ခုကနေ မစုဆောင်းခဲ့ပါဘူး။	အသားဖြူတဲ့ အရေပြား ပုံတွေနဲ့ အများဆုံး train လုပ်ထားတဲ့ အရေပြား ရောဂါ model က အသားညိုတဲ့ အရေပြားမှာ ပိုညံ့ပါတယ်။
Selection bias (ဒေတာထဲ ဘယ်သူ ပါလဲ ဆိုတာ ရွေးချယ်ပုံကြောင့် ယိမ်းသွားတဲ့ bias)	Case (ဖြစ်ရပ်) တွေ dataset (ဒေတာ အစုအဝေး) ထဲ ဝင်လာပုံက အဲဒီထဲမှာ ဘယ်သူ ပါလဲ ဆိုတာကို ယိမ်းစေပါတယ်။	ချေးငွေ မဆပ်နိုင်မှုကို ခန့်မှန်းတဲ့ model က ခွင့်ပြုခဲ့တဲ့ ချေးငွေတွေနဲ့ပဲ train လုပ်ထားလို့ ငြင်းပယ်ခံခဲ့ရတဲ့ လျှောက်ထားသူတွေ ဘယ်လို ဖြစ်ခဲ့မလဲ ဆိုတာ ဘယ်တော့မှ မမြင်ရပါဘူး။
Labelling bias (label တွေထဲ ပါနေတဲ့ လူ့ ဘက်လိုက်မှု)	Training မှာ သုံးတဲ့ “အဖြေမှန်” တွေက လူ့ အစွဲ ဒါမှမဟုတ် မတသမတ်မှုကို သယ်ဆောင်ထားပါတယ်။	အဆိပ်အတောက်ဖြစ်တဲ့ (toxic) comment ဟုတ်မဟုတ် label တွေက label တပ်ပေးတဲ့ လူအုပ်စု တစ်စုရဲ့ ဘာကို စော်ကားတယ်လို့ ယူဆလဲ ဆိုတဲ့ အမြင်ကို ထင်ဟပ်နေပါတယ်။
Measurement bias (တိုင်းတာပုံ မှန်ကန်မှု မရှိလို့ ဖြစ်တဲ့ bias)	Feature (item တစ်ခုကို ဖော်ပြတဲ့ input တန်ဖိုး) တစ်ခုက ကိုယ် တကယ် သိချင်တဲ့ အရာအတွက် ညံ့တဲ့ ဒါမှမဟုတ် မညီမျှတဲ့ အစားထိုး တိုင်းတာချက် (proxy) ဖြစ်နေပါတယ်။	“ဖမ်းဆီးခံရမှု” ကို “ရာဇဝတ်မှု” အစား သုံးတာက ရဲတွေ ဘယ်မှာ ကင်းလှည့်လဲ ဆိုတဲ့ bias ကို ဒေတာထဲ ထည့်သွင်းလိုက်တာပါ။

မှတ်ထားရမယ့် မူ: bias in, bias amplified (bias ပါတာ ဝင်ရင် bias ပိုကြီးပြီး ထွက်လာတယ်)။ Model က သင်ယူထားတဲ့ pattern ကို နောင် ဆုံးဖြတ်ချက် တိုင်းမှာ တစ်သမတ်တည်း အသုံးချပြီး သူ့ရဲ့ သင်္ချာနည်း output က ဘက်မလိုက်ဘူးလို့ ထင်ရလောက်အောင် ဖြစ်နေလို့ လူတွေက မေးခွန်း မထုတ်ဘဲ နေနိုင်ပါတယ်။

ဒေတာ bias ကို လျှော့ချတာက တကယ့် engineering (နည်းပညာ တည်ဆောက်ရေး) အလုပ်ပါ: မတူကွဲပြားတဲ့ ရင်းမြစ်တွေကနေ စုဆောင်းခြင်း၊ သက်ဆိုင်တဲ့ အုပ်စု တိုင်း ပါဝင်ကြောင်း စစ်ဆေးခြင်း၊ အမှားတွေကို သန့်ရှင်းခြင်း၊ model ရဲ့ accuracy ကို ပျမ်းမျှ တစ်ခုတည်းနဲ့ မဟုတ်ဘဲ အုပ်စု တစ်ခုစီအတွက် သီးခြား စမ်းသပ်ခြင်းနဲ့ deploy လုပ်ပြီးနောက် ပေါ်လာတဲ့ bias ကို ဖမ်းမိဖို့ feedback loop တစ်ခု ထားရှိခြင်း တို့ ဖြစ်ပါတယ်။

Online ဆက်သွယ်ရေး ကျင့်ဝတ်

Syllabus က online ဆက်သွယ်ရေး ကျင့်ဝတ်ကို machine learning ထဲ ပေါင်းထည့်ထားပါတယ်၊ ဘာလို့လဲဆိုတော့ online content တွေကို အဆင့်စီ၊ အကြံပြု၊ စိစစ် ထိန်းချုပ်ပြီး ဖန်တီးပေးတဲ့ စနစ်တွေကိုယ်တိုင်က machine learning စနစ်တွေ ဖြစ်နေလို့ပါ။ ပြဿနာ ငါးခု ထပ်ခါထပ်ခါ ပေါ်လာပါတယ်။

Misinformation။ အကြံပြုပေးတဲ့ model တွေနဲ့ အဆင့်စီတဲ့ model တွေက engagement (user တွေ ကြည့်၊ နှိပ်၊ တုံ့ပြန်တဲ့ ပမာဏ) အများဆုံး ရအောင် ကြိုးစားပြီး မှားယွင်းတဲ့ ဒါမှမဟုတ် လှုံ့ဆော်မှု ပြင်းတဲ့ content တွေက မှန်ကန်တဲ့ content ထက် လူတွေ ပိုစိတ်ဝင်စားတတ်ပါတယ်။ Click အရေအတွက် အများဆုံး ရအောင် လုပ်တဲ့ model က ဘယ်သူမှ မရည်ရွယ်ဘဲ misinformation ကို ပိုကျယ်ပြန့်အောင် ဖြန့်ပေးနိုင်ပါတယ်။ Generative model (စာသား ဒါမှမဟုတ် ပုံ အသစ်တွေ ဖန်တီးပေးတဲ့ model) တွေက ဒုတိယ ပြဿနာ တစ်ခု ထပ်ထည့်ပါတယ်: သူတို့က ယုံကြည်လောက်တဲ့ မှားယွင်းတဲ့ စာသား၊ ပုံနဲ့ ဗီဒီယိုတွေ (deepfake (AI နဲ့ ဖန်တီးထားတဲ့ အစစ်နဲ့တူတဲ့ ဗီဒီယို၊ ပုံ ဒါမှမဟုတ် အသံ အတု)) ကို အမြောက်အများ ထုတ်လုပ်နိုင်ပါတယ်။
ကိုယ် မြင်ရတာထဲက bias။ စကားလုံး တစ်ခုတည်းကို ရှာတဲ့ ဒါမှမဟုတ် app တစ်ခုတည်းကို ဖွင့်တဲ့ လူ နှစ်ယောက်ကို model က သူတို့ကို မတူအောင် profile (ကိုယ်ရေး အချက်အလက် ပုံဖော်ချက်) လုပ်ထားလို့ အလွန် ကွဲပြားတဲ့ content တွေကို ပြနိုင်ပါတယ်။ ဒီ personalisation (လူ တစ်ယောက်ချင်းနဲ့ ကိုက်အောင် ပြင်ပေးခြင်း) က လူ တစ်ယောက်ဟာ သူ ယုံကြည်ပြီးသား အမြင်တွေကိုပဲ မြင်ရတဲ့ filter bubble အဖြစ် ခိုင်မာ သွားနိုင်ပါတယ်။
Online harassment (online ပေါ်က နှောင့်ယှက် အနိုင်ကျင့်မှု)။ Platform တွေက အလွဲသုံးစား နှောင့်ယှက်မှုတွေကို အမြောက်အများ ရှာဖွေဖို့ automated moderation (content ကို အလိုအလျောက် စိစစ် ထိန်းချုပ်ခြင်း) ကို အားကိုးပါတယ်။ ဒါပေမယ့် ဒီ model တွေက context (စကားရဲ့ နောက်ခံ အခြေအနေ)၊ ပြောင်လှောင်မှုနဲ့ သူတို့ကို train မလုပ်ခဲ့တဲ့ ဘာသာစကားတွေကို လွတ်သွားတတ်လို့ တရားဝင် ပြောဆိုမှုတွေကို လိုတာထက် ပိုပိတ်ပင်ပြီး ပစ်မှတ်ထား ခံရတဲ့ user တွေကိုလည်း လုံလောက်အောင် မကာကွယ်နိုင်ပါဘူး။
Anonymity။ Anonymity က အတွင်းရေး ဖွင့်ချသူ (whistle-blower)၊ လှုပ်ရှားမှု တက်ကြွသူတွေနဲ့ ထိခိုက်လွယ်တဲ့ လူတွေကို ကာကွယ်ပေးနိုင်ပါတယ်။ နှောင့်ယှက်သူတွေနဲ့ လိမ်လည်သူတွေကိုလည်း ကာကွယ်ပေးပြီး အလွဲသုံးစားမှုကို စုံစမ်းဖို့ ပိုခက်စေနိုင်ပါတယ်။ Anonymity က တန်ဖိုးရှိပြီး တစ်ပြိုင်နက် ကုန်ကျစရိတ်လည်း ရှိလို့ ဒီဇိုင်း မေးခွန်းက သူ့ရဲ့ ကာကွယ်မှုတွေကို ထိန်းထားရင်း ထိခိုက်မှုတွေကို ဘယ်လို ကန့်သတ်မလဲ ဆိုတာပါ၊ ဥပမာ အလွဲသုံးစားမှုကို တိုင်ကြားပြီး ဖြေရှင်းနိုင်တဲ့ နည်းလမ်းတွေ ပေးခြင်းပါ။
Privacy။ Privacy ရှုထောင့်ထဲက အရာအားလုံးက online မှာ ပိုပြင်းထန်စွာ သက်ဆိုင်ပါတယ်။ အဲဒီမှာ website အမျိုးမျိုးကို ဖြတ်ပြီး ခြေရာခံခြင်း (tracking) က content နဲ့ ကြော်ငြာတွေကို ပစ်မှတ်ထားပြီး ပြဖို့ သုံးတဲ့ အသေးစိတ် profile တွေကို တည်ဆောက်ပါတယ်။

IB CS သင်တန်း တက်နေသူတွေအတွက် မှတ်ချက်: Anonymity မှာ နှစ်ဘက်လုံးက ခိုင်မာတဲ့ အကြောင်းပြချက် ရှိလို့ တစ်ဖက်ကို ရွေးပြီး နောက်တစ်ဖက်ကို မချိန်ဆဘဲ ကာကွယ် ပြောဆိုတာကို ရှောင်ပါ။ အဲဒါက ဘယ်သူ့ကို ကာကွယ်ပေးလဲ၊ ဘယ်သူ့ကို ထိခိုက်စေနိုင်လဲ ရှင်းပြပါ၊ အချက် တစ်ခုစီကို ဥပမာနဲ့ ထောက်ခံပါ၊ ပြီးရင် အခြေအနေ ပေါ်မူတည်တဲ့ ကောက်ချက် တစ်ခု ချပါ: ဥပမာ လူ တစ်ယောက်ကို အပြည့်အဝ မဖော်ထုတ်အောင် ကန့်သတ်ထားတဲ့ accountability နည်းလမ်းတွေနဲ့ ထိခိုက်မှုတွေကို လျှော့ချရင်း သူ့ ကာကွယ်မှု အများစုကို ထိန်းထားနိုင်တယ် ဆိုတာပါ။

“Discuss” မေးခွန်းကို ဘယ်လို ဖြေမလဲ

A4.4.1 ကို Discuss command term (မေးခွန်းက ဘာလုပ်ခိုင်းလဲ ပြတဲ့ IB ရဲ့ သတ်မှတ် စကားလုံး) နဲ့ အကဲဖြတ်ပါတယ်။ အဲဒါက ကောက်ချက် တစ်ခုအထိ ရောက်တဲ့ မျှတပြီး ကျိုးကြောင်း ခိုင်လုံတဲ့ ငြင်းချက်ကို တောင်းပါတယ်။ ဒါက အချက်တွေကို ပေါင်းစပ် စဉ်းစားရတဲ့ (synthesis) ကျွမ်းကျင်မှု ဖြစ်ပြီး အားကိုးလို့ရတဲ့ ဖွဲ့စည်းပုံ တစ်ခု ရှိပါတယ်။

အရည်အသွေး မြင့်တဲ့ Discuss အဖြေမှာ အပိုင်း သုံးပိုင်း ပါပါတယ်:

တစ်ဖက်။ တကယ့် အကျိုးကျေးဇူးတွေ ဒါမှမဟုတ် ထောက်ခံတဲ့ ငြင်းချက်တွေကို ပေးပါ၊ တစ်ခုစီကို ချဲ့ထွင် ရှင်းပြပါ (အချက်ကို ပြောပြီး ဒီ အခြေအနေမှာ အဲဒါ ဘာကြောင့် အရေးကြီးလဲ ရှင်းပြပါ)။ စကားလုံး စာရင်း မဟုတ်ပါဘူး: အချက် အနည်းငယ်၊ တစ်ခုစီကို ချဲ့ထွင်ထားတာပါ။
နောက်တစ်ဖက်။ တကယ့် ကုန်ကျစရိတ်၊ အန္တရာယ် ဒါမှမဟုတ် ဆန့်ကျင်တဲ့ ငြင်းချက်တွေကို အဲဒီ နည်းအတိုင်း ချဲ့ထွင်ပြီး ပေးပါ။ ရေရေရာရာ မရှိတဲ့ စိုးရိမ်ချက်တွေ မဟုတ်ဘဲ အနှစ်သာရ ရှိတဲ့ ပြဿနာတွေ (privacy၊ accountability၊ bias) ကို တင်ပြနေကြောင်း သေချာအောင် အပေါ်က ကျင့်ဝတ်ဆိုင်ရာ ရှုထောင့်တွေကို သုံးပါ။
ကျိုးကြောင်း ခိုင်လုံတဲ့ ကောက်ချက်။ ရပ်တည်ချက် တစ်ခု ယူပြီး ကိုယ် အခုလေးတင် ရေးခဲ့တဲ့ အချက်တွေကို ကိုးကားကာ အကြောင်းပြချက်နဲ့ ခိုင်လုံအောင် ပြပါ။ ကိုယ့် ခွဲခြမ်းစိတ်ဖြာမှုကို လျစ်လျူရှုတဲ့ ဒါမှမဟုတ် မေးခွန်းကိုပဲ ပြန်ပြောတဲ့ ကောက်ချက်က ဒါကို မလုပ်ပါဘူး။ ဘက် တစ်ဖက်စီရဲ့ အခိုင်မာဆုံး အချက်တွေကို ချိန်ဆပါ၊ ပေးထားတဲ့ အခြေအနေမှာ ဘယ်ဘက်က ပိုလေးလဲ ရှင်းပြပါ၊ ကိုယ့် ဆုံးဖြတ်ချက် မှန်ကန်နေမယ့် အခြေအနေတွေကို ဖော်ပြပါ။

တစ်ဖက်တည်းကိုပဲ ငြင်းခုံတာ ဒါမှမဟုတ် ကောက်ချက် မရောက်ခင် ရပ်လိုက်တာကို ရှောင်ပါ: Discuss အဖြေက နှစ်ဖက်လုံးကို ချိန်ဆပြီး ကောက်ချက် တစ်ခုအထိ ရောက်ပါတယ်၊ အန္တရာယ် စာရင်း တစ်ခုက ဒါကို မလုပ်ပါဘူး။

အဖြေ စစ်ဆေးစာရင်း: Discuss က “a considered and balanced review that includes a range of arguments, factors or hypotheses” (ငြင်းချက်၊ အချက်အလက် ဒါမှမဟုတ် ယူဆချက် အမျိုးမျိုး ပါဝင်တဲ့၊ သေချာ စဉ်းစားထားပြီး မျှတတဲ့ သုံးသပ်ချက်) ကို တောင်းပြီး ကောက်ချက်တွေက “supported by appropriate evidence” (သင့်တော်တဲ့ အထောက်အထားနဲ့ ထောက်ခံထားတဲ့) ဖြစ်ရပါမယ်။ ဒါကို လုပ်ဖို့ အသေးစိတ်ပြီး တိကျတဲ့ အသိပညာ၊ တစ်လျှောက်လုံး မှန်ကန်တဲ့ ဝေါဟာရ သုံးခြင်း (တကယ့် ရှုထောင့်တွေကို နာမည် တပ်ပြောပါ: accountability၊ training-data bias၊ informed consent)၊ တစ်ဖက်ထက် ပိုတဲ့ မျှတတဲ့ ခွဲခြမ်းစိတ်ဖြာမှုနဲ့ အဲဒီ ခွဲခြမ်းစိတ်ဖြာမှုနဲ့ ရှင်းရှင်းလင်းလင်း ချိတ်ဆက်ထားတဲ့ ကောက်ချက် တို့ကို ရည်မှန်းပါ။

လုပ်ပြထားတဲ့ ဥပမာ

အခြေအနေ။ နိုင်ငံတော် ကျန်းမာရေး ဝန်ဆောင်မှု တစ်ခုက လူနာ တစ်ယောက်ရဲ့ မှတ်တမ်းတွေကနေ နောက် တစ်နှစ်အတွင်း ပြင်းထန်တဲ့ ရောဂါ ဖြစ်နိုင်ခြေ မြင့်တဲ့သူ ဘယ်သူလဲ ခန့်မှန်းပေးတဲ့ machine learning model တစ်ခုကို deploy လုပ်ချင်ပါတယ်။ ဒါမှ ဆရာဝန်တွေက အဲဒီ လူနာတွေကို စောစောစီးစီး ကျန်းမာရေး စစ်ဆေးမှု ပေးနိုင်မှာပါ။ ဒီ model ကို deploy လုပ်တာရဲ့ ကျင့်ဝတ်ဆိုင်ရာ အကျိုးဆက်တွေကို Discuss လုပ်ပါ။

ခိုင်မာတဲ့ အဖြေ တစ်ခုက ဒီလို ပုံစံမျိုးနဲ့ သွားပါလိမ့်မယ် (ဒီမှာ အကျဉ်းချုံ့ထားပါတယ်၊ အပြည့်အစုံ အဖြေမှာ အချက် တစ်ခုစီကို ချဲ့ထွင် ရှင်းပြရပါမယ်):

ထောက်ခံဘက်။ စောစော ခန့်မှန်းခြင်းက ရောဂါ ပြင်းထန်မလာခင် ဖမ်းမိနိုင်ပြီး အသက်တွေကို ကယ်တင်ကာ ဝေဒနာကို လျှော့ချနိုင်ပါတယ်။ ဒါက တကယ် ရှိပြီး အလေးချိန် ကြီးတဲ့ အကျိုးကျေးဇူးပါ။ တစ်သမတ်တည်း ဖြစ်တဲ့ model နဲ့ လူတိုင်းကို တန်းတူ စစ်ဆေးတာက ဘယ် လူနာက စစ်ဆေးပေးဖို့ အတင်း တောင်းဆိုသလဲ ဆိုတာကို အားကိုးတာထက် ပိုမျှတ နိုင်ပါတယ်။ ရှားပါးတဲ့ အထူးကု ဆရာဝန်တွေရဲ့ အချိန်ကို အလိုအပ်ဆုံး နေရာမှာ သုံးနိုင်အောင်လည်း ကူညီပေးနိုင်ပါတယ်။

ဆန့်ကျင်ဘက်။ Model အတွက် အထိခိုက်လွယ်တဲ့ ကျန်းမာရေး မှတ်တမ်းတွေကို နေရာ တစ်ခုတည်းမှာ စုထားဖို့ လိုပါတယ် (ပေါက်ကြားရင် privacy နဲ့ security အန္တရာယ်)။ လူနာတွေက သူတို့ မှတ်တမ်းတွေနဲ့ ခန့်မှန်းတဲ့ model ကို train လုပ်ဖို့ consent မပေးခဲ့ ဖြစ်နိုင်ပါတယ်။ Training data ထဲမှာ ရပ်ရွာ အသိုက်အဝန်း တချို့ကို လုံလောက်အောင် ကိုယ်စားမပြုရင် model က သူတို့အတွက် တိကျမှု နည်းနည်း ခန့်မှန်းပါလိမ့်မယ် (sampling bias)၊ ဒါကြောင့် ကျန်းမာရေး စောင့်ရှောက်မှုကို အနည်းဆုံး ရနေပြီးသား လူတွေက အကူအညီ အနည်းဆုံး ရနိုင်ပါတယ်။ ရောဂါ ဖြစ်နိုင်ခြေ မြင့်တယ်လို့ မှားပြီး ခန့်မှန်းတာက ပြင်းထန်တဲ့ စိုးရိမ်ပူပန်မှုကို ဖြစ်စေနိုင်ပါတယ်။ ဖြစ်နိုင်ခြေ နိမ့်တယ်လို့ မှားပြီး ခန့်မှန်းတာကတော့ ရောဂါကို လွတ်သွားတာ ဖြစ်နိုင်ပြီး ကုသမှု ဆုံးဖြတ်ချက်တွေအတွက် model မဟုတ်ဘဲ ဆရာဝန်က တာဝန်ခံ ဖြစ်ကြောင်း ရှင်းလင်းနေရပါမယ်။ Model က တစ်ယောက်ယောက်ကို ဘာကြောင့် flag လုပ်လိုက်လဲ ဆိုတာ လူနာရော ဆရာဝန်ပါ မမြင်ရရင် (transparency) ယုံကြည်ဖို့ ဒါမှမဟုတ် ကန့်ကွက်ဖို့ ခက်ပါတယ်။

ကောက်ချက်။ အကျိုးကျေးဇူး (ပိုစောပြီး အသက်ကယ်နိုင်တဲ့ ကုသမှု) က deploy လုပ်တာကို တရားမျှတစေလောက်အောင် ကြီးပါတယ်၊ ဒါပေမယ့် အခြေအနေတွေနဲ့ပဲ: ရှင်းလင်းပြတ်သားတဲ့ consent ဒါမှမဟုတ် ခိုင်မာတဲ့ ဥပဒေ အခြေခံ ရှိခြင်း၊ bias ကို ဖမ်းမိဖို့ accuracy ကို ရပ်ရွာ အသိုက်အဝန်း တစ်ခုစီအတွက် သီးခြား စမ်းသပ်ပြီး အစီရင်ခံခြင်း၊ model ကို အလိုအလျောက် ဆုံးဖြတ်ချက် အဖြစ် မဟုတ်ဘဲ ဆရာဝန်ကို သတိပေးချက် အဖြစ် သုံးခြင်းနဲ့ လူနာတွေအတွက် အယူခံ တင်နိုင်တဲ့ လမ်းကြောင်း ရှိခြင်း။ အဲဒီ safeguard (အကာအကွယ် စည်းမျဉ်း) တွေနဲ့ deploy လုပ်ရင် model က ထိခိုက်မှုထက် အကျိုးကျေးဇူး ပိုပေးပါတယ်။ အဲဒါတွေ မပါဘဲ deploy လုပ်ရင်တော့ သူ ပြင်ဆင်ပေးနိုင်တဲ့ မညီမျှမှုတွေကိုပဲ ပိုခိုင်မာ သွားစေဖို့ အန္တရာယ် ရှိပါတယ်။

ကောက်ချက်က “ဟုတ်တယ်” ဒါမှမဟုတ် “မဟုတ်ဘူး” လို့ ပြတ်ပြတ် မဟုတ်ဘဲ အခြေအနေ ပေါ်မူတည်ပြီး အကြောင်းပြချက် ခိုင်လုံတာကို သတိပြုပါ: စနစ်ကို သုံးနိုင်မယ့် အခြေအနေတွေကို နာမည်တပ် ဖော်ပြပြီး အပေါ်မှာ ဆွေးနွေးခဲ့တဲ့ အကျိုးကျေးဇူးနဲ့ အန္တရာယ်တွေနဲ့ ထောက်ခံထားပါတယ်။

Quick Check (အမြန် စစ်ဆေးမေးခွန်း)

Q1. မြို့ကောင်စီ တစ်ခုက ဘယ် လမ်းတွေကို အရင် ပြင်မလဲ ဆုံးဖြတ်ဖို့ သူ့ရဲ့ နှစ် 20 စာ လမ်းပြင် မှတ်တမ်းတွေနဲ့ model တစ်ခုကို train လုပ်ပါတယ်။ အဲဒီ နှစ်တွေမှာ တိုင်ကြားမှု အများဆုံး ရပ်ကွက်တွေက လမ်းတွေကို အခြေအနေ ဘယ်လိုပဲ ရှိရှိ ပိုစောစော ပြင်ပေးခဲ့ပါတယ်။ အခု model က တခြား နေရာက လမ်းတွေ ပိုဆိုးနေတဲ့အခါမှာတောင် အဲဒီ ရပ်ကွက်တွေကို ဦးစားပေးပါတယ်။ ဒီ မမျှတမှုရဲ့ အဓိက ရင်းမြစ်က ဘာလဲ။

Q2. ကိုယ်တိုင်မောင်းကား တစ်စီးက တိုက်မိမှု ဖြစ်စေပါတယ်။ ထုတ်လုပ်သူက လည်ပတ်သူကို အပြစ်ပုံချတယ်၊ လည်ပတ်သူက software ကို အပြစ်ပုံချတယ်၊ ပြီးတော့ "algorithm က ဆုံးဖြတ်လိုက်တာ" ဆိုတာကို ရှင်းပြချက် အဖြစ် ပေးပါတယ်။ ဘယ် ကျင့်ဝတ်ဆိုင်ရာ ရှုထောင့်က အတိုက်ရိုက်ဆုံး ပါဝင်နေသလဲ။

Q3. လျှောက်ထားသူ တစ်ယောက်ကို အလိုအလျောက် ချေးငွေ စနစ်က ငြင်းပယ်ပြီး ဘယ် အချက်တွေက သူ့အတွက် အားနည်းချက် ဖြစ်ခဲ့လဲ ဆိုတာ ဘဏ်က မပြောပြနိုင်ပါဘူး။ ဒီမှာ ဘယ် ရှုထောင့်က အရှင်းဆုံး ပြဿနာ ဖြစ်နေသလဲ။

Q4. ကျောင်းသား တစ်ယောက်က "Discuss the ethical implications" (ကျင့်ဝတ်ဆိုင်ရာ အကျိုးဆက်တွေကို ဆွေးနွေးပါ) မေးခွန်းကို စနစ်ရဲ့ အန္တရာယ် ခြောက်ခုကို စာရင်းလုပ်ပြီး ရပ်လိုက်တဲ့ ပုံစံနဲ့ ဖြေပါတယ်။ ဒါက ဘာကြောင့် အမှတ်အပြည့် မရနိုင်တာလဲ။

Q5. ကုမ္ပဏီ တစ်ခုက ရှိပြီးသား model အသေး တစ်ခုကို fine-tune လုပ်ရင် လိုအပ်ချက်တွေကို ဖြည့်ဆည်းနိုင်ပေမယ့် model အကြီးကြီး တစ်ခုကို လအနည်းငယ် တိုင်း အစကနေ ပြန် train လုပ်ပါတယ်။ ဒါက ဘယ် ကျင့်ဝတ်ဆိုင်ရာ ရှုထောင့်ကို အတိုက်ရိုက်ဆုံး ဖြစ်စေသလဲ။

Q6. ကုမ္ပဏီ တစ်ခုက face-recognition product တစ်ခုကို train လုပ်ဖို့ အများမြင်အောင် တင်ထားတဲ့ ဓာတ်ပုံ သန်းနဲ့ချီကို စုဆောင်းပါတယ်။ ဓာတ်ပုံတွေက အများမြင် ဖြစ်ပေမယ့် ပုံထဲက လူတွေကို ဘယ်တုန်းကမှ မမေးခဲ့ပါဘူး။ ဘယ် ရှုထောင့်ကို အရှင်းဆုံး ချိုးဖောက်ထားသလဲ။

သက်ဆိုင်တဲ့ ရှုထောင့်ကို ရှာပါ

အခြေအနေ တစ်ခုစီက အတိုက်ရိုက်ဆုံး ဖြစ်စေတဲ့ ကျင့်ဝတ်ဆိုင်ရာ ရှုထောင့် (ဒါမှမဟုတ် bias အမျိုးအစား) ကို နာမည် ပေးပါ။ ဝေါဟာရ အတိအကျကို သုံးပါ။

ကွက်လပ်ပါတဲ့ စာကြောင်းတွေက English နဲ့ ဖြစ်ပြီး အဖြေတွေကိုလည်း ဒီစာမျက်နှာက English ဝေါဟာရ အတိုင်း English လို ရိုက်ထည့်ရပါမယ်။ Dimension ဆိုတာ ရှုထောင့်၊ Bias type ဆိုတာ bias အမျိုးအစား လို့ ဆိုလိုပါတယ်။ စာကြောင်းတွေရဲ့ အဓိပ္ပာယ်က အောက်ပါအတိုင်းပါ:

Model က အန္တရာယ် မရှိသလို ထင်ရတဲ့ ဝယ်ယူမှုတွေကနေ ဖောက်သည် တစ်ယောက်ရဲ့ ကျန်းမာရေး အခြေအနေကို ကောက်ချက် ဆွဲ သိသွားတယ်
အရေပြား ကင်ဆာ model ကို အသားဖြူတဲ့ အရေပြားနဲ့ အများဆုံး train လုပ်ခဲ့လို့ အသားညိုတဲ့ အရေပြားမှာ ဖြစ်တဲ့ case တွေကို လွတ်သွားတယ်
Model က အလုပ်လျှောက်လွှာ တစ်ခုကို ဘာကြောင့် ငြင်းပယ်လဲ ဆိုတာ ဘယ်သူမှ ရှင်းမပြနိုင်ဘူး
တိုက်ခိုက်သူတွေက model ရဲ့ နောက်ပိုင်း ခန့်မှန်းချက်တွေကို ပျက်စီးအောင် တမင် ဖန်တီးထားတဲ့ input တွေကို ထည့်ပေးတယ်
Model ကို train လုပ်နေတဲ့ data centre က မြို့ငယ် တစ်မြို့လောက် လျှပ်စစ် သုံးတယ်

အခြေအနေ တစ်ခုစီက ဖြစ်စေတဲ့ ရှုထောင့် ဒါမှမဟုတ် bias အမျိုးအစားနဲ့ ကွက်လပ်တွေကို ဖြည့်ပါ။

// A model deduces a customer's health condition from harmless-looking purchases
// Dimension: 

// A skin-cancer model was trained mostly on light skin and misses cases on dark skin
// Bias type: 

// No one can explain why the model rejected a specific job application
// Dimension: 

// Attackers feed crafted inputs to corrupt a model's future predictions
// Dimension: 

// The data centre training the model uses as much electricity as a town
// Dimension:

Practice Exercises (လေ့ကျင့်ခန်းများ)

IB CS သင်တန်း တက်နေသူတွေအတွက် မှတ်ချက်: A4.4.1 ကို Discuss command term နဲ့ စစ်ဆေးပြီး အောက်က အမှတ် ပိုများတဲ့ မေးခွန်းတွေက အဲဒါကို သုံးပါတယ်။

Define၊ Outline နဲ့ Explain လို English စကားလုံးတွေက IB command term တွေပါ။ (4 marks) လို mark allocation (မေးခွန်း တစ်ခုစီအတွက် ပေးတဲ့ အမှတ်) တွေက IB Computer Science စာမေးပွဲ ပုံစံအတိုင်း ပေးထားတာပါ၊ ဥပမာ (4 marks) ဆိုတာ 4 မှတ်ပါ။ IB သင်တန်း မတက်တဲ့သူတွေကတော့ အဖြေ ဘယ်လောက် အသေးစိတ် ရေးရမလဲ ချိန်ကြည့်ဖို့ လမ်းညွှန်အဖြစ် သုံးနိုင်ပါတယ်။

Core (အခြေခံ အဆင့်)

Define and exemplify (အဓိပ္ပာယ်ကို တိတိကျကျ ဖော်ပြပြီး ဥပမာ ပေးပါ) (6 marks): အောက်ပါ ရှုထောင့် သုံးခု တစ်ခုစီအတွက် စာကြောင်း တစ်ကြောင်းတည်းနဲ့ အဓိပ္ပာယ် ဖွင့်ဆိုချက် တစ်ခုနဲ့ ကိုယ်ပိုင် ဥပမာ တစ်ခု ပေးပါ: (a) accountability၊ (b) consent၊ (c) transparency။
Outline (အကျဉ်းချုပ် ဖော်ပြပါ) (4 marks): Bias က training data ကနေ machine learning model ထဲကို ဝင်လာနိုင်တဲ့ နည်းလမ်း နှစ်ခုကို outline လုပ်ပါ။ တစ်ခုစီမှာ bias အမျိုးအစားကို နာမည် ပေးပါ။
Explain (ရှင်းပြပါ) (4 marks): ပျမ်းမျှအားဖြင့် အလွန် တိကျတဲ့ machine learning model တစ်ခုက အုပ်စု တစ်စုအပေါ် ဘာကြောင့် မမျှတ ဖြစ်နိုင်သေးသလဲ explain လုပ်ပါ။

Extension (တိုးချဲ့ အဆင့်)

Explain (6 marks): Streaming (online ကနေ ဗီဒီယို တိုက်ရိုက် ကြည့်ရတဲ့) ဝန်ဆောင်မှု တစ်ခုက ကြည့်ချိန် အများဆုံး ရအောင် လုပ်တဲ့ recommendation model (ကြည့်စရာကို ရွေးပြပေးတဲ့ model) တစ်ခုကို သုံးပါတယ်။ ဒီ ဒီဇိုင်း ရွေးချယ်မှုက misinformation ကို ပိုကျယ်ပြန့်အောင် ဖြန့်တာဆီ ဘယ်လို ဦးတည်သွားနိုင်လဲ ဆိုတာကို feedback loop တွေကို ကိုးကားပြီး explain လုပ်ပါ။
Discuss (အမြင် အမျိုးမျိုးကို ချိန်ဆပြီး ဆွေးနွေးပါ) (8 marks): ကျောင်း တစ်ကျောင်းက နှစ်ဆုံး စာမေးပွဲတွေကို ကျောင်းသားတွေ အိမ်မှာ နေပြီး online ဖြေဆိုအောင် proctoring software (စာမေးပွဲကို အဝေးကနေ ကြီးကြပ် စောင့်ကြည့်ပေးတဲ့ software) သုံးပြီး စီစဉ်ပါတယ်။ Machine learning model တစ်ခုက ကျောင်းသား တစ်ယောက်ချင်းကို webcam ကနေ ကြည့်တယ်၊ microphone ကနေ နားထောင်တယ်၊ screen ကနေ မျက်နှာလွှဲ ကြည့်တာ ဒါမှမဟုတ် အခန်းထဲမှာ ဒုတိယ အသံ တစ်ခု ကြားရတာ လို ခိုးချနိုင်တယ်လို့ သူ ယူဆတဲ့ အပြုအမူတွေကို flag လုပ်ပါတယ်။ ပြီးမှ ဆရာတွေက အဲဒီ flag တွေကို ပြန်စစ်ပါတယ်။ ဒီ စနစ်ကို သုံးတာရဲ့ ကျင့်ဝတ်ဆိုင်ရာ အကျိုးဆက်တွေကို Discuss လုပ်ပါ။ (စာပိုဒ်နဲ့ ရေးပါ။ အနည်းဆုံး ရှုထောင့် သုံးခုကို ထည့်ရေးပြီး ကျိုးကြောင်း ခိုင်လုံတဲ့ ကောက်ချက် တစ်ခု ချပါ။)

Challenge (စိန်ခေါ်မှု အဆင့်)

Discuss (10 marks): မြို့ တစ်မြို့က ရဲ ကင်းလှည့်တွေကို ဘယ်ကို ပို့ရမလဲ ခန့်မှန်းဖို့ အတိတ်က ဖမ်းဆီးမှု မှတ်တမ်းတွေနဲ့ train လုပ်ထားတဲ့ machine learning model တစ်ခုကို သုံးဖို့ စီစဉ်ပါတယ်။ Bias၊ accountability နဲ့ societal impact ကို အထူး အာရုံစိုက်ပြီး ကျင့်ဝတ်ဆိုင်ရာ အကျိုးဆက်တွေကို Discuss လုပ်ပါ။ ဒီလို စနစ်ကို တရားမျှတတယ်လို့ ဆိုနိုင်မယ့် အခြေအနေတွေ (ရှိခဲ့ရင်) ကို ဖော်ပြတဲ့၊ အခြေအနေနဲ့ ကိုက်အောင် ချိန်ညှိထားတဲ့ ကောက်ချက် တစ်ခု ချပါ။
Evaluate (အားသာချက်နဲ့ အားနည်းချက်တွေကို ချိန်ဆပြီး အကဲဖြတ်ပါ) (10 marks): ကုမ္ပဏီ တစ်ခုက (a) accuracy အမြင့်ဆုံး ရဖို့ model အကြီး အသစ် တစ်ခုကို အစကနေ train လုပ်နိုင်သလို (b) စွမ်းအင် ကုန်ကျစရိတ်ရဲ့ အစိတ်အပိုင်း အနည်းငယ်နဲ့တင် accuracy နည်းနည်း နိမ့်တဲ့ ရှိပြီးသား model အသေး တစ်ခုကို fine-tune လုပ်နိုင်ပါတယ်။ Accuracy၊ environmental impact နဲ့ လူ့အဖွဲ့အစည်းအတွက် အကျိုးကျေးဇူးကို ချိန်ဆပြီး ရွေးချယ်စရာ နှစ်ခုကို Evaluate လုပ်ပါ၊ ပြီးရင် တစ်ခုကို အကြံပြုပါ။

ဆက်စပ် ခေါင်းစဉ်များ

ဆက်စပ် ခေါင်းစဉ်: Computing in Daily Life (နေ့စဉ်ဘဝထဲက ကွန်ပျူတာ): ကွန်ပျူတာ ကျင့်ဝတ်ရဲ့ ပိုကျယ်တဲ့ လူ့အဖွဲ့အစည်း ဆိုင်ရာ တစ်ဝက် (A4.4.2)
အရင် သိထားရမယ့် အယူအဆ: Computational Thinking Concepts (computational thinking အယူအဆများ): abstraction (မလိုတဲ့ အသေးစိတ်ကို ဖယ်ပြီး အဓိကကိုပဲ ကြည့်ခြင်း) နဲ့ သူ့ရဲ့ trade-off (တစ်ခု ရဖို့ တစ်ခု အလျှော့ပေးရတာ) တွေက model တွေ ကမ္ဘာကို ဘယ်လို ရိုးရှင်းအောင် လုပ်သလဲ ဆိုတာရဲ့ အခြေခံ ဖြစ်ပါတယ်
ဆက်စပ် ခေါင်းစဉ်: Databases (ဒေတာ သိမ်းဆည်းတဲ့ စနစ်များ): model တွေကို ဒေတာ ပေးတဲ့ စနစ်တွေထဲက ဒေတာ ကာကွယ်ရေး၊ key (row တွေကို ခွဲခြားပေးပြီး table တွေကို ချိတ်ပေးတဲ့ column) တွေနဲ့ privacy
ဆက်စပ် ခေါင်းစဉ်: Networks (network များ): ကိုယ်ရေးကိုယ်တာ ဒေတာကို ကာကွယ်ပေးတဲ့ encryption နဲ့ security နည်းစနစ်များ
ထပ်ဆင့် လေ့လာစရာ (stretch၊ စာမေးပွဲ မမေးပါ)၊ Discuss အဖြေမှာ သုံးဖို့ လက်တွေ့ ဥပမာတွေအတွက်: AI Beyond Machine Learning (machine learning ထက် ကျယ်တဲ့ AI) က ရှင်းပြနိုင်မှု ကွာခြားချက်ကို ပုံ တစ်ပုံတည်းနဲ့ ပြပါတယ် (မပြည့်မီခဲ့တဲ့ စည်းမျဉ်းကို နာမည်တပ် ပြောပြနိုင်တဲ့ rule-based (စည်းမျဉ်း အခြေခံ) စနစ် တစ်ခုနဲ့ မပြောပြနိုင်တဲ့ network တစ်ခုကို ဘေးချင်းယှဉ်ပြီး)။ How Large Language Models Work (large language model တွေ ဘယ်လို အလုပ်လုပ်သလဲ) က စုပ်ယူမိတဲ့ bias နဲ့ hallucination (AI က မမှန်တဲ့ အချက်ကို အမှန်လို ယုံကြည်စွာ ထုတ်ပေးခြင်း) နောက်ကွယ်က ယန္တရားကို ရှင်းပြပါတယ်။ How AI Image Generation Works (AI က ပုံတွေကို ဘယ်လို ဖန်တီးသလဲ) မှာ အလိုအလျောက် ဆွဲယူထားတဲ့ (scraped) training data၊ synthetic media (AI နဲ့ ဖန်တီးထားတဲ့ ပုံ၊ အသံ၊ ဗီဒီယို) နဲ့ ဘယ်သူ့ကို ဖန်တီးသူ (author) လို့ သတ်မှတ်မလဲ ဆိုတာတွေ ပါပါတယ်။