విషయము
- AI బ్యూటీ బయాస్
- భాషలలో లింగ పక్షపాతం
- 2. ఉద్యోగాలలో లింగం మరియు వయస్సు వివక్ష
- ముఖ గుర్తింపు విఫలమైంది
- రెసిడివిజం బయాస్
Takeaway:
ఇటీవలి సంవత్సరాలలో, AI ఎక్కువగా స్వీకరించబడింది మరియు అందాన్ని అంచనా వేయడం నుండి రెసిడివిజం ప్రమాదాన్ని అంచనా వేయడం వరకు ప్రతిదానికీ వర్తింపజేయబడింది. అలా చేస్తే, ఇది అనేక సందర్భాల్లో పక్షపాతం మరియు వివక్షకు మద్దతు ఇచ్చే ప్రమాణాలను కూడా సమర్థించింది.
సాంకేతిక పరిజ్ఞానం యొక్క పురోగతి సమాచారం మరియు అవకాశాలకు ప్రాప్యతను నిజంగా ప్రజాస్వామ్యం చేయగల సామర్థ్యాన్ని కలిగి ఉంది. ఏదేమైనా, కొన్ని సందర్భాల్లో, మన సమాజంలో కొంతమంది ఇతరులకన్నా సమానమే అనే భావనను బలోపేతం చేసే మార్గాల్లో దీనిని ఉపయోగిస్తున్నారు.
కృత్రిమ మేధస్సు (AI) కొన్ని వర్గాలను మినహాయించటానికి ఉద్దేశపూర్వకంగా ఉపయోగించబడుతున్న ఈ క్రింది ఏడు సందర్భాల నుండి మనం చూసినది లేదా దాని యొక్క మానవ ప్రోగ్రామర్లు పొందుపరిచిన పక్షపాతాన్ని వివక్షతతో ప్రభావితం చేస్తుంది.
AI బ్యూటీ బయాస్
అందం చూసేవారి దృష్టిలో ఉండవచ్చు, కానీ ఆ ఆత్మాశ్రయ వీక్షణ AI ని ప్రోగ్రామ్ చేయగలిగినప్పుడు, మీరు ప్రోగ్రామ్‌లో పక్షపాతం పొందారు. రాచెల్ థామస్ 2016 లో బ్యూటీ.ఐ నుండి అందాల పోటీలో అలాంటి ఒక ఎపిసోడ్ గురించి నివేదించారు. ఫలితాలు తేలికపాటి రంగులను చీకటి వాటి కంటే ఆకర్షణీయంగా రేట్ చేసినట్లు చూపించాయి.
మరుసటి సంవత్సరం, “ఛాయాచిత్రాల కోసం ఫిల్టర్లను రూపొందించడానికి న్యూరల్ నెట్‌వర్క్‌లను ఉపయోగించే ఫేస్ఆప్, ప్రజల చర్మాన్ని కాంతివంతం చేసే మరియు వారికి మరిన్ని యూరోపియన్ లక్షణాలను ఇచ్చే‘ హాట్‌నెస్ ఫిల్టర్ ’ను సృష్టించింది.”
భాషలలో లింగ పక్షపాతం
కెరీర్ యొక్క మూసపోత అంచనాలను అధిగమించే అనువాదాల యొక్క డాక్యుమెంటెడ్ ఉదాహరణను థామస్ ఉదహరించాడు. ప్రారంభ స్థానం రెండు వాక్యాలు: "ఆమె డాక్టర్, అతను ఒక నర్సు."
మీరు వాటిని టర్కిష్ మరియు తిరిగి ఆంగ్లంలోకి అనువదిస్తే, టెలిఫోన్ ఆట నుండి మీరు ఆశించిన ఫలితాలను పొందుతారు.
మీరు ప్రారంభించిన దాన్ని పొందడానికి బదులుగా, "అతను ఒక వైద్యుడు, ఆమె ఒక నర్సు" అని 1950 ల రకమైన నిరీక్షణ మీకు లభిస్తుంది. టర్కిష్ భాషలోని లింగ-తటస్థ ఏకవచన సర్వనామం కారణంగా అంచనాలు మరియు మూస పక్షపాతం ఆధారంగా లింగాన్ని కేటాయించవచ్చని ఆమె వివరిస్తుంది. (AI లో మహిళలను చదవండి: టెక్‌తో సెక్సిజం మరియు స్టీరియోటైప్‌లను బలోపేతం చేయడం.)
చిత్రాలు మరియు భాషలోకి వడపోత జాతి మరియు లింగ పక్షపాతాలు చిరాకుకు కారణం అయితే, అవి AI ఫలితంగా క్రియాశీల వివక్షకు సమానమైనవి కావు, కానీ అది కూడా జరిగింది.
ఆఫ్రికన్ అమెరికన్, ఆసియన్ అమెరికన్ లేదా హిస్పానిక్స్ వంటి వర్గాల మినహాయింపులను తనిఖీ చేయడం ద్వారా ప్రేక్షకులను ఇరుకైన ఎంపికను అనుమతించే దాని హౌసింగ్ కేటగిరీ కింద ఒక ప్రకటన కోసం ఉంచిన పరిమితుల యొక్క స్క్రీన్ షాట్ దీనికి రుజువు. ప్రకటనను ఇక్కడ చూడవచ్చు.
ప్రోపబ్లికా ఎత్తి చూపినట్లుగా, 1968 యొక్క ఫెయిర్ హౌసింగ్ యాక్ట్ మరియు 1964 నాటి పౌర హక్కుల చట్టం క్రింద ఇటువంటి ప్రకటనల యొక్క వివక్షత ప్రభావం చట్టవిరుద్ధం. ఈ సందర్భంలో ఉన్న ఏకైక రక్షణ ఏమిటంటే, ఈ ప్రకటన హౌసింగ్ కోసం కాదు, ఎందుకంటే అది లేదు. ' అమ్మకం లేదా అద్దెకు ఆస్తి లేదా ఇంటి గురించి.
ఏదేమైనా, జాతి పక్షపాతాన్ని సూచించే టార్గెటింగ్ యొక్క ఇతర ఉదాహరణలు ఉన్నాయి మరియు ఇది సోషల్ నెట్‌వర్క్‌కు వ్యతిరేకంగా సివిల్ సూట్లను తీసుకురావడానికి వివిధ సంస్థలను ప్రేరేపించింది. వైర్డ్ నివేదించినట్లుగా, చివరకు దాని ప్రకటన-లక్ష్య సాంకేతికతను సర్దుబాటు చేయడానికి ఐదు చట్టపరమైన కేసుల పరిష్కారం ఫలితంగా మార్చి 2019 లో ప్రకటనల ద్వారా మైనారిటీలపై వివక్షను ఎనేబుల్ చేసినట్లు అభియోగాలు మోపారు.
సెటిల్మెంట్పై తన నివేదికలో, ACLU అటువంటి లక్ష్య ప్రకటనలు ఎంత కృత్రిమమైనవని ఎత్తి చూపాయి, ఎందుకంటే మైనారిటీలు మరియు మహిళలు తెల్ల పురుషులతో పంచుకునే సమాచారం, గృహనిర్మాణం మరియు ఉద్యోగ అవకాశాలకు ఒకే ప్రాప్యత ఇవ్వబడలేదని గ్రహించలేరు.
ఉద్యోగాలు, అపార్టుమెంట్లు మరియు రుణాలను కనుగొనడానికి ఎక్కువ మంది ఇంటర్నెట్ వైపు మొగ్గుచూపుతున్నప్పుడు, ప్రకటన లక్ష్యం సమాజంలో ఉన్న జాతి మరియు లింగ పక్షపాతాలను ప్రతిబింబిస్తుంది మరియు తీవ్రతరం చేస్తుంది. ఇంజనీరింగ్ ఉద్యోగాల కోసం ప్రకటనలను పురుషులకు మాత్రమే ప్రదర్శించడానికి యజమాని ఎంచుకుంటే g హించుకోండి - పురుషులుగా గుర్తించబడని వినియోగదారులు ఆ ప్రకటనలను ఎప్పుడూ చూడరు, వారు తప్పిపోయిన వాటిని కూడా ఎప్పటికీ తెలుసుకోలేరు.
అన్నింటికంటే, మేము ఆన్‌లైన్‌లో చూడని ప్రకటనలను గుర్తించడానికి చాలా అరుదుగా మార్గం ఉంటుంది. మినహాయించబడిన వినియోగదారుకు ఈ వివక్ష కనిపించదు కాబట్టి ఆపటం మరింత కష్టతరం చేస్తుంది.
2. ఉద్యోగాలలో లింగం మరియు వయస్సు వివక్ష
చట్టపరమైన కేసులలో హౌసింగ్‌లో చట్టవిరుద్ధమైన వివక్షత ఉంది. సెటిల్మెంట్పై తన నివేదికలో, ప్రోపబ్లికా అది ప్లాట్‌ఫామ్‌ను పరీక్షించి, ఆఫ్రికన్ అమెరికన్లు మరియు యూదులు వంటి మినహాయించిన సమూహాలపై గృహనిర్మాణ సంబంధిత ప్రకటనలను కొనుగోలు చేయడంలో విజయవంతమైందని, మరియు గతంలో కంపెనీలు ఉంచిన వయస్సు మరియు లింగం ప్రకారం వినియోగదారులను మినహాయించి ఉద్యోగ ప్రకటనలను కనుగొంది. అవి ఇంటి పేర్లు. ”
ఒక నిర్దిష్ట వయస్సు బ్రాకెట్‌లోని పురుషులను మాత్రమే లక్ష్యంగా చేసుకుని ACLU కనుగొన్న అనేక ఉద్యోగ ప్రకటనలు, వినియోగదారులు ఆ నిర్దిష్ట ప్రకటనను ఎందుకు చూపించారనే దానిపై సమాధానం క్లిక్ చేయడం ద్వారా వినియోగదారులు మరొక వైర్డు కథనంలో ప్రదర్శించబడ్డారు. కార్మిక మరియు పౌర హక్కుల చట్టాలను ఉల్లంఘిస్తున్నారనే కారణంతో సోషల్ నెట్‌వర్క్‌పై మరియు ప్రకటనలను ఉంచిన సంస్థలపై ACLU సమాన ఉపాధి అవకాశ కమిషన్‌తో అభియోగాలు మోపింది.
40 ఏళ్లు పైబడిన వారిని నియమించడంలో వివక్ష ఫెడరల్ ఏజ్ డిస్క్రిమినేషన్ ఇన్ ఎంప్లాయ్మెంట్ యాక్ట్ (ADEA) ను ఉల్లంఘిస్తుంది. కానీ ఆ వయస్సు కంటే తక్కువ వయస్సు ఉన్నవారికి మాత్రమే ఉద్యోగ ప్రకటనలను లక్ష్యంగా చేసుకోవడం వేదిక ద్వారా ప్రారంభించబడిన వాటిలో ఒకటి.
ప్రోపబ్లికా తన నివేదికలలో ఒకదానిని దృష్టిలో ఉంచుకుని, ఏ ఉద్యోగ ప్రకటనలు వయస్సు ప్రకారం ఈ చట్టవిరుద్ధమైన మినహాయింపుపై పెట్టుబడి పెట్టాయి. "గృహ పేర్లలో" వెరిజోన్, యుపిఎస్, ఉబెర్, టార్గెట్, స్టేట్ఫార్మ్, నార్త్ వెస్ట్రన్ మ్యూచువల్, మైక్రోసాఫ్ట్, జె స్ట్రీట్, హస్బ్స్పాట్, ఐకెఇఎ, ఫండ్ ఫర్ ది పబ్లిక్ ఇంట్రెస్ట్, గోల్డ్మన్ సాచ్, ఓపెన్ వర్క్స్ మరియు ఇతరత్రా ఉన్నాయి.
ముఖ గుర్తింపు విఫలమైంది
ఫిబ్రవరి 2018 లో ప్రచురించబడిన న్యూయార్క్ టైమ్స్ కథనం యొక్క ముఖ్య శీర్షికను “ఫేషియల్ రికగ్నిషన్ ఈజ్ కచ్చితంగా ఉంది” అని ప్రకటించింది. స్కిన్ టోన్ మరియు తప్పు గుర్తింపు మధ్య విభిన్న సంబంధం ఉన్నట్లు కనుగొన్న ఫలితాలను ఇది ఉదహరించింది:
"చర్మం ముదురు, ఎక్కువ లోపాలు తలెత్తుతాయి - ముదురు రంగు చర్మం గల మహిళల చిత్రాలకు దాదాపు 35% వరకు, ఒక కొత్త అధ్యయనం ప్రకారం, వివిధ జాతుల మరియు లింగ ప్రజలపై సాంకేతికత ఎలా పనిచేస్తుందో కొలవడం ద్వారా తాజా భూమిని విచ్ఛిన్నం చేస్తుంది."
ఈ ఫలితాలను ఎంఐటి మీడియా ల్యాబ్‌లోని పరిశోధకుడు మరియు అల్గోరిథమిక్ జస్టిస్ లీగ్ (ఎజెఎల్) వ్యవస్థాపకుడు జాయ్ బూలాంవినికి జమ చేశారు. ఆమె పరిశోధనా ప్రాంతం AI కి ఆధారపడే పక్షపాతం, మోడల్ కోసం నిర్ణయించిన తెల్లని మగ ప్రమాణానికి సరిపోని ముఖాలను గుర్తించేటప్పుడు ఇటువంటి వక్రీకృత ఫలితాలు వస్తాయి.
బులాంవిని ముఖ గుర్తింపు కోసం జాతి మరియు లింగ పక్షపాత సమస్యను 2017 TED చర్చలో సమర్పించారు, ఇది MIT ల్యాబ్ నుండి ది జెండర్ షేడ్స్ ప్రాజెక్ట్‌లోని వీడియోలో ఆమె 2018 ప్రారంభంలో ప్రస్తావించింది:
<
వీడియో యొక్క వర్ణనలో చెప్పబడినది ఏమిటంటే, AI పక్షపాతాన్ని తనిఖీ చేయకుండా వదిలేయడం, "ఆటోమేషన్ వయస్సును నిర్వీర్యం చేస్తుంది మరియు ఉద్రేకానికి వదిలేస్తే అసమానతను మరింత పెంచుతుంది." నష్టాలు "యంత్ర తటస్థత యొక్క తప్పుడు under హలో పౌర హక్కుల ఉద్యమం మరియు మహిళల ఉద్యమంతో సాధించిన లాభాలను కోల్పోవడం" కంటే తక్కువ కాదు.
వీడియో వర్ణన చాలా మంది ఇప్పుడు ఎత్తి చూపిన హెచ్చరికను జతచేస్తుంది, మేము మహిళల్లో AI లో చూసినట్లుగా: టెక్‌తో సెక్సిజం మరియు స్టీరియోటైప్‌లను బలోపేతం చేయడం: "ఆటోమేటెడ్ సిస్టమ్స్ అంతర్గతంగా తటస్థంగా లేవు. అవి ప్రాధాన్యతలు, ప్రాధాన్యతలు మరియు పక్షపాతాలను ప్రతిబింబిస్తాయి-కోడెడ్ కృత్రిమ మేధస్సును రూపొందించే శక్తి ఉన్నవారి చూపులు. "
జనవరి 25, 2019 న, బులమ్న్విని తన సొంత పరిశోధన మరియు అదనపు పరిశోధకుల యొక్క ఒక మధ్యస్థ పోస్ట్‌ను ప్రచురించింది, అమెజాన్ యొక్క పున ogn పరిశీలనలో AI లోపాలు ఎలా లోపాలను కలిగిస్తాయో ఎత్తిచూపిన అదనపు పరిశోధకులు మరియు కంపెనీ AI సేవలను పోలీసు విభాగాలకు అమ్మడం మానేయాలని డిమాండ్ చేశారు.
తేలికపాటి చర్మం గల మగవారిని గుర్తించడానికి రెకోగ్నిషన్ 100% ఖచ్చితత్వం మరియు ముదురు మగవారికి 98.7% ఖచ్చితత్వాన్ని కలిగి ఉంటుంది, ఆడ విషయానికి వస్తే, తేలికైన ఆడవారికి ఖచ్చితత్వం 92.9% కి పడిపోయింది. ముదురు ఆడవారికి కేవలం 68.6% ఖచ్చితత్వానికి పడిపోయింది.
కానీ అమెజాన్ పశ్చాత్తాపం చెందడానికి నిరాకరించింది. ఒక వెంచర్ బీట్ కథనం AWS వద్ద లోతైన అభ్యాసం మరియు AI యొక్క జనరల్ మేనేజర్ డాక్టర్ మాట్ వుడ్ నుండి ఒక ప్రకటనను ఉటంకించింది, దీనిలో పరిశోధకులు కనుగొన్న విషయాలు AI వాస్తవానికి ఎలా ఉపయోగించబడుతున్నాయో ప్రతిబింబించలేదని అతను వివరించాడు:
ముఖ విశ్లేషణ మరియు ముఖ గుర్తింపు అంతర్లీన సాంకేతిక పరిజ్ఞానం మరియు వారికి శిక్షణ ఇవ్వడానికి ఉపయోగించే డేటా పరంగా పూర్తిగా భిన్నంగా ఉంటాయి. ముఖ గుర్తింపు యొక్క ఖచ్చితత్వాన్ని అంచనా వేయడానికి ముఖ విశ్లేషణను ఉపయోగించటానికి ప్రయత్నించడం తప్పుగా సలహా ఇవ్వబడింది, ఎందుకంటే ఇది ఆ ప్రయోజనం కోసం ఉద్దేశించిన అల్గోరిథం కాదు. ”
కానీ అల్గోరిథంలు చాలా సమస్యాత్మకంగా ఉన్నాయని కనుగొన్న ప్రధాన పరిశోధనా కేంద్రాలతో అనుబంధంగా ఉన్నవారు మాత్రమే కాదు. గిజ్మోడో నివేదిక ప్రకారం, ACLU తన సొంత పరీక్షను 33 12.33 అత్యంత సహేతుకమైన ఖర్చుతో నడిపింది. కాంగ్రెస్‌లోని 28 మంది సభ్యులను రికగ్నిషన్ నేరస్థుల ఫోటోలతో సరిపోల్చినట్లు ఇది కనుగొంది.
"ఉత్తర కాలిఫోర్నియా యొక్క ACLU కాంగ్రెస్ యొక్క మొత్తం 535 మంది సభ్యుల ఫోటోలను 25 వేల బహిరంగంగా లభించే మగ్షాట్ ఫోటోలకు వ్యతిరేకంగా రికగ్నిషన్కు అప్పగించినప్పుడు తప్పుడు గుర్తింపులు ఇవ్వబడ్డాయి."
28 మందిలో 11 మంది వర్ణ ప్రజలు కాబట్టి, ఇది వారికి 39% లోపం రేటును ప్రతిబింబిస్తుంది. దీనికి విరుద్ధంగా లోపం రేటు మరింత ఆమోదయోగ్యమైనది 5%. మగ్‌షాట్‌లతో ముడిపడి ఉన్న రికగ్నిషన్‌లో ఉన్న కాంగ్రెషనల్ బ్లాక్ కాకస్‌లోని ఆరుగురు సభ్యులు అమెజాన్ యొక్క CEO కి బహిరంగ లేఖలో తమ ఆందోళనను వ్యక్తం చేశారు.
రెసిడివిజం బయాస్
రంగు వ్యక్తులకు వ్యతిరేకంగా AI లో పొందుపరిచిన పక్షపాతం మరింత తీవ్రమైన సమస్యగా మారుతుంది, అది గుర్తించడంలో లోపం కంటే ఎక్కువ. ఇది 2016 లో మరొక ప్రోపబ్లికా దర్యాప్తును కనుగొంది. ఇటువంటి పక్షపాతం యొక్క పరిణామాలు వ్యక్తిగత స్వేచ్ఛ కంటే తక్కువ కాదు, అల్గోరిథం ద్వారా చర్మం రంగు ఇష్టపడే వ్యక్తి నుండి నిజమైన ప్రమాదాన్ని విస్మరిస్తుంది.
వ్యాసం ఒక తెల్లని నేరస్తుడు మరియు ఒక నల్లజాతి కేసుతో కూడిన రెండు సమాంతర కేసులను సూచిస్తుంది. ఏది చట్టాన్ని మళ్లీ ఉల్లంఘించే అవకాశం ఉందో to హించడానికి ఒక అల్గోరిథం ఉపయోగించబడింది. నలుపు ఒకటి అధిక ప్రమాదం, మరియు తెలుపు తక్కువ ప్రమాదం.
అంచనా పూర్తిగా తప్పుగా ఉంది, మరియు స్వేచ్ఛగా వెళ్ళిన తెల్లవారిని మళ్ళీ జైలులో పెట్టవలసి వచ్చింది. ఇది చాలా సమస్యాత్మకమైనది, ఎందుకంటే న్యాయస్థానాలు పెరోల్‌పై నిర్ణయం తీసుకోవడంలో స్కోరింగ్‌పై ఆధారపడతాయి మరియు దీని అర్థం ప్రోగ్రామ్‌లో జాతి పక్షపాతం అంటే చట్టం ప్రకారం అసమాన చికిత్స.
2013 మరియు 2014 లో ఫ్లోరిడాలోని బ్రోవార్డ్ కౌంటీలో అరెస్టయిన 7,000 మందికి పైగా రిస్క్ స్కోర్‌లను పోల్చి, తరువాతి రెండేళ్లలో వారిపై కొత్త క్రిమినల్ అభియోగాలు మోపబడిన సంఖ్యతో పోల్చి, ప్రోపబ్లికా అల్గోరిథంను దాని స్వంత పరీక్షలో పెట్టింది.
వారు కనుగొన్నది ఏమిటంటే, హింసాత్మక స్వభావం గల నేరాలను పునరావృతం చేయాలనే అంచనాలలో కేవలం 20% నిజమైంది, మరియు ఎక్కువ చిన్న నేరాలు 61% స్కోరు ఉన్నవారికి మాత్రమే సంభవించాయి.
అసలు సమస్య ఖచ్చితత్వం లేకపోవడం మాత్రమే కాదు, ఇందులో పాల్గొన్న జాతి పక్షపాతం:
- ఈ సూత్రం ముఖ్యంగా నల్లజాతి ప్రతివాదులను భవిష్యత్ నేరస్థులుగా తప్పుగా ఫ్లాగ్ చేసే అవకాశం ఉంది, వారిని తెల్ల ముద్దాయిల కంటే దాదాపు రెండు రెట్లు చొప్పున తప్పుగా లేబుల్ చేస్తుంది.
- నల్లజాతి ముద్దాయిల కంటే తెల్ల ముద్దాయిలు తక్కువ ప్రమాదం ఉన్నట్లు తప్పుగా ముద్రించబడ్డారు.
ఫలితంగా, ఇది నల్లజాతీయులకు 45% మరియు తెల్లవారికి 24% లోపం రేటుగా అనువదించబడింది. ఆ స్పష్టమైన గణాంకం ఉన్నప్పటికీ, విస్కాన్సిన్ సుప్రీంకోర్టు ఈ అల్గోరిథం వాడకాన్ని ఇప్పటికీ సమర్థించిందని థామస్ నివేదించారు. రెసిడివిజం అల్గారిథమ్‌లతో సంబంధం ఉన్న ఇతర సమస్యలను కూడా ఆమె వివరిస్తుంది.