విషయము
సమర్పించినవారు: AltaML
Q:
ఆధునిక AI వ్యవస్థలకు "మానవ అభిప్రాయ నియంత్రణలను" జోడించడానికి కొన్ని కంపెనీలు ఎందుకు ఆలోచిస్తున్నాయి?
A:
అత్యాధునిక AI సాంకేతిక పరిజ్ఞానంతో పనిచేసే కొన్ని కంపెనీలు ఈ వ్యవస్థల కోసం మానవ నియంత్రణలను ఏర్పాటు చేయడానికి పనిచేస్తున్నాయి, యంత్ర అభ్యాసం మరియు లోతైన అభ్యాస సాధనాలను కొన్ని ప్రత్యక్ష మానవ పర్యవేక్షణను ఇస్తాయి. ఈ కంపెనీలు చిన్న ఆటగాళ్ళు కావు - గూగుల్ యొక్క డీప్ మైండ్ మరియు ఎలోన్ మస్క్ యొక్క ఓపెన్ఏఐ కృత్రిమ మేధస్సు పురోగతి గురించి చేతులెత్తే ప్రధాన సంస్థలకు రెండు ఉదాహరణలు. దీన్ని దృష్టిలో ఉంచుకుని, ఫలితాలు భిన్నంగా ఉంటాయి - ఉదాహరణకు, ప్రజలకు కీలక డేటాను అందించడానికి ఇష్టపడని కారణంగా డీప్‌మైండ్ వివాదాస్పదమైంది, ఓపెన్‌ఐఐ చాలా ఎక్కువ, ఓపెన్ కృత్రిమ మేధస్సును నియంత్రించడంలో దాని పని గురించి.
బిల్ గేట్స్ వంటి ప్రముఖులు కూడా ఈ అంశంపై తూకం వేశారు, ఒక కృత్రిమ సూపర్ ఇంటెలిజెన్స్ యొక్క ఆవిర్భావం గురించి ఆందోళన చెందుతున్న చాలా మందిలో గేట్స్ మాట్లాడుతూ, కొన్ని విధాలుగా మానవ నియంత్రణకు మించి కదలవచ్చు. మస్క్, తన వంతుగా, "రోగ్ AI" యొక్క అవకాశం గురించి కొన్ని భయంకరమైన భాషను కూడా ఉంచాడు.
AI కి మానవ నియంత్రణలను వర్తింపజేయడానికి కంపెనీలు పనిచేస్తున్న అత్యంత అత్యవసర కారణం ఇది - కొన్ని సాంకేతిక ఏకత్వం వల్ల మానవులు ఇకపై నియంత్రించలేని సూపర్-శక్తివంతమైన సెంటిమెంట్ టెక్నాలజీకి దారితీస్తుందనే ఆలోచన. మానవ ఆశయాల ప్రారంభమైనప్పటి నుండి, మనం నియంత్రించే శక్తులను నియంత్రించగలమని నిర్ధారించుకోవడానికి మేము సాధనాలను ఉంచాము - ఇది పగ్గాలు మరియు పట్టీలతో కూడిన గుర్రాలు అయినా, ఇన్సులేట్ చేయబడిన వైర్లలో విద్యుత్తు లేదా మరేదైనా నియంత్రణ యంత్రాంగాన్ని కలిగి ఉన్నాయా? నియంత్రణ అనేది సహజంగా మానవ పనితీరు మరియు అందువల్ల కృత్రిమ మేధస్సు నిజమైన కార్యాచరణకు దగ్గరగా వచ్చినప్పుడు, మానవులు ఆ శక్తిని అదుపులో ఉంచడానికి వారి స్వంత ప్రత్యక్ష నియంత్రణలను వర్తింపజేస్తారు.
అయినప్పటికీ, సూపర్ ఇంటెలిజెంట్ రోబోట్ల భయం మాత్రమే కంపెనీలు యంత్ర అభ్యాసం మరియు AI ప్రాజెక్టులకు మానవ నియంత్రణలను వర్తింపజేయడానికి కారణం కాదు. మరొక ప్రధాన కారణం మెషిన్ బయాస్ - ఇది కృత్రిమ మేధస్సు వ్యవస్థలు తరచూ ప్రశ్నలో ఉన్న డేటాను ఎలా అంచనా వేస్తాయనే దానిపై పరిమితం చేయబడతాయి - తద్వారా అవి వ్యవస్థలో అంతర్లీనంగా ఉన్న ఏదైనా పక్షపాతాన్ని పెంచుతాయి. యంత్ర అభ్యాసంతో వ్యవహరించే చాలా మంది నిపుణులు మానవ వినియోగదారు సమూహాలను ఒకేలా చూసుకోలేని ఐటి వ్యవస్థల గురించి భయానక కథలను చెప్పగలరు - ఇది లింగం లేదా జాతి అసమానత అయినా, లేదా మన మానవ సమాజాల యొక్క సూక్ష్మ నైపుణ్యాలను నిజంగా అర్థం చేసుకోవడంలో వ్యవస్థ యొక్క కొన్ని ఇతర వైఫల్యాలు మరియు మేము ప్రజలతో ఎలా వ్యవహరిస్తాము.
ఒక రకంగా చెప్పాలంటే, వ్యవస్థలపై మానవ నియంత్రణలను ఉంచవచ్చు, ఎందుకంటే అవి చాలా శక్తివంతంగా ఉంటాయని మేము భయపడుతున్నాము - లేదా ప్రత్యామ్నాయంగా, ఎందుకంటే అవి తగినంత శక్తివంతం కావు అని మేము భయపడుతున్నాము. మానవ నియంత్రణలు మరింత ఖచ్చితత్వాన్ని అందించడానికి యంత్ర అభ్యాస డేటా సెట్‌లను లక్ష్యంగా చేసుకోవడానికి సహాయపడతాయి. కంప్యూటర్ కేవలం స్వంతంగా నేర్చుకోలేని ఆలోచనలను బలోపేతం చేయడానికి ఇవి సహాయపడతాయి, ఎందుకంటే మోడల్ తగినంత అధునాతనమైనది కాదు, ఎందుకంటే AI చాలా దూరం ముందుకు సాగలేదు, లేదా కొన్ని విషయాలు మానవ జ్ఞాన ప్రావిన్స్‌లో ఉన్నాయి. కృత్రిమ మేధస్సు కొన్ని విషయాలకు గొప్పది - ఉదాహరణకు, రివార్డ్-అండ్-స్కోర్-ఆధారిత వ్యవస్థ ఒక కృత్రిమ మేధస్సును చాలా క్లిష్టమైన బోర్డు గేమ్ “గో” వద్ద ఒక మానవ ఆటగాడిని ఓడించటానికి అనుమతించింది - కాని ఇతర విషయాల కోసం, ఈ ప్రోత్సాహక-ఆధారిత వ్యవస్థ పూర్తిగా సరిపోదు.
ఒక్కమాటలో చెప్పాలంటే, కృత్రిమ మేధస్సు ప్రాజెక్టులు ఎలా పనిచేస్తాయో మానవ వినియోగదారులను ప్రత్యక్షంగా ఉంచడానికి అనేక బలవంతపు కారణాలు ఉన్నాయి. అత్యుత్తమ కృత్రిమ మేధస్సు సాంకేతికతలు కూడా చాలా ఆలోచించగలవు - కాని భావోద్వేగాలు మరియు సామాజిక విషయాలను ప్రాసెస్ చేయగల వాస్తవ జీవ మానవ మెదడు లేకుండా, అవి పెద్ద చిత్రాన్ని మానవ మార్గంలో చూడలేవు.
నైపుణ్యం కలిగిన యంత్ర అభ్యాస సంస్థ పెద్ద వ్యాపార సమస్యలను పరిష్కరించే నైపుణ్యాలతో వ్యాపారం మరియు విషయ-నిపుణులు మరియు యంత్ర అభ్యాస డెవలపర్‌ల మిశ్రమంతో ఈ సమతుల్యతను కొట్టడానికి సహాయపడుతుంది.
