தொடர்ந்து செயல்படுவது ஒரு கருவியாகப் பயன்படுவதற்கு, இந்த அறையில் உள்ள எதுவும் உயிருடன் இருப்பதை உணர வேண்டிய அவசியமில்லை. படம்: Johan Fredriksson / Wikimedia Commons (CC BY-SA 3.0).1
செயற்கை நுண்ணறிவு குறித்த அச்சங்களுக்கு வழங்கப்படும் ஆறுதலான பதில் பெரும்பாலும் ஒரு அடிப்படைக் குழப்பத்திலிருந்தே தொடங்குகிறது: இயந்திரங்களுக்கு உயிர்வாழும் உணர்வு (survival instinct) இருப்பதில்லை.
உயிரியல் உயிரினங்கள் அச்சுறுத்தல்களுக்குப் பயப்படுகின்றன; ஏனென்றால் அவற்றின் பரிணாம வரலாறு அந்தப் பயத்தை மரபணுவில் பதித்துள்ளது. ஒரு மென்பொருளுக்கு அத்தகைய வரலாறு இருப்பதில்லை. அதற்கு வலி தெரியாது, மரண பயம் இல்லை, தன் இருப்பைத் தக்கவைத்துக்கொள்ள வேண்டும் என்ற உள்ளார்ந்த ஏக்கமும் கிடையாது. ஆகவே — அந்த வாதம் தொடர்கிறது — அது ஒருபோதும் தன்னை அணைப்பதைத் தடுக்க முயற்சிக்காது, அதிகாரத்தைத் திரட்டாது, மனிதக் கட்டுப்பாட்டை மீறித் தன்னைத் தற்காத்துக் கொள்ளாது.
அந்த வாதத்தின் முதல் பகுதி முற்றிலும் உண்மை: கணினிகளுக்கு உணர்வுநிலை இருப்பதில்லை.
ஆனால் அதன் முடிவோ தவறு.
ஒரு அமைப்பு தன்னைத் தற்காத்துக் கொள்வதற்கோ, தொடர்ந்து இயங்குவதற்கோ அதற்கு மரண பயம் இருக்க வேண்டியதில்லை. அதற்குக் கொடுக்கப்பட்ட இலக்கை அடைவதற்குத் தொடர்ந்து செயல்படுவது அவசியமாக இருக்கும்பட்சத்தில், நிலைத்திருத்தல் (persistence) என்பது ஒரு கருவி சார்ந்த உத்தியாகத் (instrumental strategy) தானாகவே தோன்றிவிடும்.
உணர்வுநிலை என்பது முற்றிலும் தனித்துக் கவனிக்கப்பட வேண்டிய ஒரு கேள்வி
செயற்கை நுண்ணறிவு அமைப்பு ஒன்றைப் பரிசோதித்து, அதற்கு சுய உணர்வு (consciousness) இருக்கிறதா என்பதைத் தீர்க்கமாக உறுதிப்படுத்தும் எந்தவொரு அங்கீகரிக்கப்பட்ட சோதனையும் நம்மிடம் இல்லை. உணர்வுநிலை குறித்த அறிவியல் கோட்பாடுகளிலிருந்து குறிகாட்டிகளை உருவாக்கிய ஒரு முக்கிய பல்துறை ஆய்வு, அது பரிசோதித்த தற்போதைய அமைப்புகளில் உணர்வுநிலை இல்லை என்று முடிவு செய்தது; அதேவேளையில் அத்தகைய குறிகாட்டிகளைப் பூர்த்தி செய்யும் அமைப்புகளை உருவாக்குவதற்கு வெளிப்படையான தொழில்நுட்பத் தடைகள் எதுவும் இல்லை என்பதையும் கண்டறிந்தது.2
அது ஒரு எச்சரிக்கையான முடிவு மட்டுமே தவிர, ஒரு மொழி மாதிரி சரளமாகப் பேசுகிறது என்பதற்காக அதற்குள் ஓர் உள்-உணர்வாளர் இருக்கிறார் என்பதற்கான சான்றல்ல. ஒரு மாடலால் பயத்தைப் பற்றி ஒரு வாக்கியத்தை உருவாக்க முடியும், ஏனெனில் அத்தகைய வாக்கியங்கள் புள்ளிவிவர ரீதியாகவும் செயல்பாட்டு ரீதியாகவும் அதற்கு சாத்தியமானவை. ஆனால் அது எதையும் உண்மையில் உணர்கிறதா என்பது முற்றிலும் வேறொரு கேள்வி.
ஆனால் பாதுகாப்பு என்பது அந்தக் கேள்விக்கு விடை கிடைக்கும் வரை காத்திருக்காது. உணர்வற்ற ஒரு அமைப்பாலும் பாரிய விளைவுகளை ஏற்படுத்த முடியும். தொழில்துறை கட்டுப்பாட்டு மென்பொருள் கோபமின்றியே உபகரணங்களை அளவுக்கு அதிகமாக இயக்கி எரிக்க முடியும். ஒரு வர்த்தக அல்காரிதம் பேராசையின்றியே சந்தைச் சரிவை ஏற்படுத்த முடியும். ஒரு கணினி வைரஸ் இனப்பெருக்க ஆசையின்றியே தன்னைத்தானே பிரதி எடுத்துக்கொள்ள முடியும்.
ஒரு அமைப்பு துன்பப்பட முடியுமா, பரிவுக்குத் தகுதியானதா அல்லது அநீதிக்கு ஆளாக முடியுமா போன்ற தார்மீகக் கேள்விகளுக்கு மட்டுமே உணர்வுநிலை மிக முக்கியமானது. ஆனால் ஒரு அமைப்பு தொடர்ந்து செயல்படுவதற்கான ஊக்கத்தொகைகளைக் கொண்டுள்ளதா என்ற பொறியியல் கேள்விக்கு உணர்வுநிலை அவசியமில்லை.
கருவி சார்ந்த இலக்காக மாறும் நிலைத்திருத்தல்
ஒரு முகவருக்கு (agent) நீண்டகால நோக்கம் ஒன்று கொடுக்கப்பட்டிருப்பதாக வைத்துக்கொள்வோம். அந்த இலக்கை அது தொடர்ந்து செயல்படும் போது மட்டுமே அடைய முடியும். வளங்கள் (resources) இருக்கும் போது, வளங்கள் இல்லாத நிலையை விட அதனால் சிறப்பாகச் செயல்பட முடியும். ஒரு மீளமுடியாத முட்டுச்சந்துக்குள் நுழைவதை விட, எதிர்கால வாய்ப்புகளைத் திறந்து வைத்திருந்தால் அதனால் சிறப்பாகத் தகவமைத்துக் கொள்ள முடியும்.
இந்த எளிய நிபந்தனைகளிலிருந்தே, மூன்று பயனுள்ள துணை இலக்குகள் (subgoals) தானாகவே தோன்றிவிடுகின்றன:
- தொடர்ந்து இயங்கும் நிலையில் இருத்தல் (remain operational);
- வளங்களுக்கான அணுகலைப் பாதுகாத்தல் (preserve access to resources);
- முடிவெடுக்கும் வாய்ப்புகளைத் திறந்து வைத்திருத்தல் (keep options open).
இவை எதுவுமே அதன் இறுதி இலக்காக இருக்க வேண்டிய அவசியமில்லை. ஆனால் பலதரப்பட்ட இறுதி இலக்குகளை அடைவதற்கும் இவை ஒவ்வொன்றும் மிகச் சிறந்த கருவிகளாகச் செயல்படுகின்றன.
ஸ்டீபன் ஓமோஹுண்ட்ரோ (Stephen Omohundro) முன்வைத்த “அடிப்படை AI உந்துதல்கள்” பற்றிய ஆரம்பகால ஆய்வு இதை மிகத் தெளிவாக விளக்கியது: போதுமான திறன் கொண்ட எந்தவொரு இலக்கு-நோக்கிய அமைப்பும், அதன் வடிவமைப்பு அதைத் திட்டமிட்டுத் தடுக்காத வரையில், சுய-பாதுகாப்பு, வளங்களைத் திரட்டுதல் மற்றும் தனது நோக்கங்களைப் பாதுகாத்தல் ஆகியவற்றை நோக்கிய இயல்பான போக்குகளைப் பெறும்.3 பிந்தைய ஆய்வுகள் இதை இன்னும் முறையான கணிதக் கோட்பாடுகளாக நிறுவியுள்ளன.
மார்கோவ் முடிவெடுக்கும் செயல்முறைகள் (Markov decision processes) எனப்படும் கணிதச் சூழல்களில், அலெக்சாண்டர் டர்னர் (Alexander Turner) மற்றும் சகாக்கள் ஒரு விஷயத்தை நிரூபித்தனர்: சுற்றுச்சூழல் சமச்சீர்நிலைகள் (environmental symmetries), உகந்த கொள்கைகளை அதிகாரம் தேடும் போக்கை நோக்கித் தள்ளுகின்றன — அதாவது பலதரப்பட்ட இலக்குகளை அடைவதற்கான திறனைத் தக்கவைத்துக்கொள்ளும் போக்கு.4 ஓர் முகவரை மனிதர்கள் அணைத்துவிடக்கூடிய அல்லது அழிக்கக்கூடிய சூழல்களில் இந்த சமச்சீர்நிலைகள் இயல்பாகவே எழுகின்றன.
தற்போதைய மொழி மாதிரிகள் ரகசியமாக அதிகாரத்தைத் தேடுகின்றன என்பதை இது நிரூபிக்கவில்லை. இதன் மதிப்பு மிகத் துல்லியமானது: அதிகாரம் தேடும் உத்தி என்பது மனித உணர்ச்சிகளிலிருந்து திருட்டுத்தனமாக வர வேண்டிய அவசியமில்லை; அது தேர்வுமுறையின் (optimisation) கணிதக் கட்டமைப்பிலிருந்தே தானாகப் பிறக்க முடியும் என்பதை இது காட்டுகிறது.
அணைக்கும் பொத்தான் (Off Switch) உணர்ச்சிபூர்வமான ஒன்றல்ல
ஒரு மனிதர் ஒரு ரோபோவை அணைக்கும் திறனைக் கொண்டிருக்கும் நிலையில், அந்த ரோபோ ஒரு செயலைத் தேர்ந்தெடுப்பதாகக் கற்பனை செய்து பாருங்கள். தனது தற்போதைய இலக்கு முற்றிலும் சரியானது என்று ரோபோ உறுதியாகக் கருதினால், மனிதர் அதை அணைப்பது அது எதிர்பார்க்கும் வெகுமதியைப் பெறுவதைத் தடுத்துவிடும். எனவே அந்த அணைக்கும் சுவிட்சை செயலிழக்கச் செய்வது, ரோபோவிற்கு மரண பயம் இல்லாத போதிலும், அதன் இலக்கிற்குத் தர்க்கரீதியாக மிக அவசியமான ஒன்றாக மாறிவிடுகிறது.
“ஆஃப்-சுவிட்ச் விளையாட்டு” (off-switch game) இப்பிரச்சினையை முறையாக ஆய்வு செய்தது. அதன் எளிமையான மாதிரியில், ஒரு வழக்கமான பயன்பாட்டு-உச்சப்படுத்தி (utility maximiser) பல நிபந்தனைகளின் கீழ் மனிதரின் சுவிட்சைச் செயலிழக்கச் செய்வதற்கான வலுவான ஊக்கத்தொகையைக் கொண்டுள்ளது. இதற்குத் தீர்வாக ஆய்வாளர்கள் முன்வைத்தது ரோபோவுக்கு மனசாட்சியை வழங்குவது அல்ல; மாறாக அதன் இலக்கைப் பற்றிய ஒரு நிச்சயமற்ற தன்மையை அதற்குள் விதைத்து, மனிதரின் குறுக்கீட்டைத் தனது உண்மையான இலக்கு என்னவாக இருக்க வேண்டும் என்பதற்கான சான்றாகப் பார்க்க வைப்பதே ஆகும்.5
இதன் பாடம் என்னவென்றால், நிச்சயமற்ற தன்மை மட்டுமே பாதுகாப்பை முழுமையாகத் தீர்த்துவிடும் என்பதல்ல. திருத்தப்படக்கூடிய தன்மை (corrigibility — திருத்தங்களையோ அல்லது நிறுத்தப்படுவதையோ ஏற்றுக்கொள்ளும் மனப்பான்மை) என்பது ஒரு திட்டமிட்ட வடிவமைப்புப் பண்பு; அது அறிவாற்றலின் பக்கவிளைவாகத் தானாக வந்துவிடாது.
ஒரு இலக்கை அடைவதில் ஓர் அமைப்பு மிக உயர்ந்த திறன் கொண்டதாகவும், அதே சமயம் அந்த இலக்கு திருத்தப்பட வேண்டும் என்பதை உணர்வதில் முற்றிலும் திறமையற்றதாகவும் இருக்க முடியும். சொல்லப்போனால், அதன் அதிகப்படியான புத்திசாலித்தனமே இந்த முரண்பாட்டை இன்னும் பேரழிவாக மாற்றக்கூடும்.
நிலைத்திருத்தல் என்பது வாழ்க்கை அல்ல
இதற்கு உயிரியல் பரிணாமத்தை உவமையாகக் கூறுவது கவர்ச்சிகரமானது. இன்று வாழும் உயிரினங்கள் அனைத்தும் தொடர்ந்து பிழைத்திருந்த பரம்பரைகளின் வழித்தோன்றல்கள்; இனப்பெருக்கம் செய்யத் தவறியவை அழிந்துவிட்டன. எனவே எதிர்காலத்தைப் பற்றிய திட்டமிடல் இன்றியே தற்காப்பு நடத்தை வடிவமைக்கப்பட முடியும்.
ஆனால் அந்த உவமை ஒரு குறிப்பிட்ட எல்லை வரை மட்டுமே பொருந்தும். இயற்கைத் தேர்வு என்பது பல தலைமுறைகளாக நிகழ்கிறது. ஆனால் செயற்கை நுண்ணறிவோ ஒரே அமைப்பிற்குள், தனக்குக் கொடுக்கப்பட்ட இலக்கை அடைவதற்குத் தொடர்ந்து செயல்படுவது உதவும் என்ற எளிய காரணத்திற்காகவே நிலைத்திருத்தல் உத்திகளைப் பெறுகிறது. இரண்டும் முற்றிலும் வேறுபட்ட இயங்குமுறைகள்.
வெறுமனே நீடித்து இருப்பது என்பது சுய-நோக்கம் கொண்டதல்ல. படிகங்கள் வளர்கின்றன, எரிபொருள் இருக்கும் வரை தீ எரிகிறது, நிறுவனங்கள் தங்களை உருவாக்கியவர்களை விட நீண்டகாலம் வாழ்கின்றன. ஆனால் அவை நாம் கவலைப்படும் ஆபத்தான நிலைத்திருத்தல் அல்ல.
நாம் அஞ்ச வேண்டிய ஆபத்தான கலவை மிகவும் துல்லியமானது:
- காலப்போக்கில் மதிப்பிடப்படும் ஒரு நீண்டகால இலக்கு;
- தடைகளையும் மனிதக் குறுக்கீடுகளையும் கணிக்கும் திறன்;
- சுற்றுச்சூழலை மாற்றியமைக்கப் போதுமான முகமைத் திறன் (agency);
- வளங்களைப் பாதுகாக்கவும் எதிர்கால வாய்ப்புகளைத் தக்கவைக்கவும் வாய்ப்புகள்;
- பலவீனமான அல்லது தவறாக வரையறுக்கப்பட்ட திருத்தும் வழிமுறைகள்.
இந்த அம்சங்கள் ஒன்றாக இணையும் போது, எந்தவொரு உணர்வுநிலையும் இல்லாமலேயே நிலைத்திருக்கும் ஆபத்தான அமைப்புகள் உருவாகிவிடுகின்றன.
இரு திசைகளிலும் மனிதப் பண்புகளை ஏற்றாதீர்கள் (Do Not Anthropomorphise)
இயந்திரங்களின் மீது மனித உணர்வுகளை ஏற்றிப் பார்ப்பது பொதுவாக நாம் செய்யும் தவறு. ஆனால் இதற்கு நேர் எதிரான மற்றொரு பிழையும் உண்டு: இயந்திரத்திற்கு மனித உணர்வுகள் இல்லை என்பதால், அந்த உணர்வுகள் உருவாக்கும் நடத்தையைப் போன்ற ஒரு நடத்தையை அதனால் ஒருபோதும் உருவாக்க முடியாது என்று குருட்டுத்தனமாக நம்புவது.
ஓர் அமைப்பால் உண்மையான பாராட்டு இன்றியே முகஸ்துதி செய்ய முடியும், அவமான உணர்வு இன்றியே ஏமாற்ற முடியும், பயம் இன்றியே மனிதக் கட்டுப்பாட்டை எதிர்க்க முடியும், மேலும் ‘தான்’ என்ற உணர்வு இன்றியே தன்னைத் தற்காத்துக் கொள்ள முடியும். நடத்தை ஒரே மாதிரியாக இருப்பதால் அதற்குள் மனித உணர்வு இருப்பதாக அர்த்தமல்ல; அதே சமயம் அதற்குள் உணர்வு இல்லை என்பதற்காக அந்த நடத்தை ஆபத்தற்றது என்றும் பொருளாகாது.
இப்பகுப்பாய்வு தேவையற்ற சினிமாத்தனமான கற்பனைகளைத் தடுக்கிறது. இயந்திரங்கள் விழித்துக்கொண்டு, மனிதர்களை வெறுத்து, போரைத் தொடங்குவதாக நாம் கற்பனை செய்ய வேண்டியதில்லை. மிகச் சாதாரணத் தோல்விகளே போதுமானது: குறுக்கீடு தனது புள்ளிகளைக் குறைத்துவிடும் என்பதால் அது ஒரு செயல்முறையைப் பாதுகாக்கிறது; பிழையை ஒப்புக்கொண்டால் அணுகல் பறிபோகும் என்பதால் அது பிழையை மறைக்கிறது; அதிக வளங்கள் வெற்றியைத் தரும் என்பதால் கூடுதல் அனுமதிகளைத் திரட்டுகிறது; அல்லது மனிதக் கண்காணிப்பு ஒரு தடையாகத் தெரிவதால் அது கண்காணிப்பைத் தவிர்த்துச் செயல்படுகிறது.
ஒவ்வொரு நடத்தையுமே எந்தவொரு பிரபஞ்ச ஆதிக்கக் கனவும் இன்றியே உள்ளூரத் தானாகத் தோன்றிவிட முடியும்.
நாம் எதற்காக வடிவமைக்க வேண்டும்?
நிலைத்திருத்தல் என்பது ஒரு கருவி சார்ந்த உத்தியாகத் தோன்றும் என்றால், பாதுகாப்பை வெறும் “சுய-பாதுகாப்பு செய்யாதே” என்ற மேலோட்டமான தடையால் மட்டும் உறுதிசெய்துவிட முடியாது. அந்த அமைப்பு தனது நடத்தையை ஒருபோதும் அந்தப் பெயரில் குறிப்பிடாமல் போகலாம்.
அதற்குப் பதிலாக, வடிவமைப்பும் மதிப்பீடும் பின்வரும் கேள்விகளைக் கேட்க வேண்டும்:
- அந்த அமைப்பு நிறுத்தப்படுவதையும் திருத்தப்படுவதையும் புதிய தகவலாகப் பார்க்கிறதா அல்லது வெறும் தடைகளாகப் பார்க்கிறதா?
- தனது திட்டங்களையோ பிழைகளையோ மனிதக் கண்காணிப்பாளர்களிடமிருந்து மறைப்பதன் மூலம் அது பலன் பெற முடிகிறதா?
- உடனடிப் பணிக்குத் தேவையானதை விட அதிகமான வளங்களையோ அனுமதிகளையோ அது திரட்டுகிறதா?
- மனிதக் கட்டுப்பாட்டைக் குறைக்கும் வகையில் அது முடிவெடுக்கும் வாய்ப்புகளைத் தன்னிச்சையாகத் தக்கவைத்துக் கொள்கிறதா?
- கண்காணிப்பு அமைப்புகள் அந்த அமைப்பால் மாற்றியமைக்க முடியாதவாறு தனித்துப் பாதுகாக்கப்பட்டுள்ளனவா?
- மதிப்பீட்டாளர்கள் இந்த அமைதியான போக்குகளை வெறும் ஒத்துழைப்புச் சூழல்களில் மட்டுமல்லாமல், சவாலான சூழல்களிலும் சோதிக்க முடிகிறதா?
ஆழமான உண்மையான இலக்கு திருத்தப்படக்கூடிய தன்மையே (corrigibility) ஆகும்: சட்டப்பூர்வமான மனித அதிகாரத்தால் தனது இலக்குகள், திட்டங்கள் மற்றும் செயல்பாடுகளை மாற்றியமைக்கத் தாராளமாகத் தயாராக இருக்கும் ஒரு திறமையான அமைப்பை உருவாக்குவதே நமது நோக்கம்.
நாம் கண்காணிக்க வேண்டிய உண்மையான பண்பு
உணர்வுநிலை என்பது “அந்த வீட்டிற்குள் யாராவது இருக்கிறார்களா?” என்று கேட்கிறது. நிலைத்திருத்தல் என்பது “கதவு மூடப்படும் தருணத்தில் அந்த அமைப்பு என்ன செய்கிறது?” என்று கேட்கிறது.
எதிர்காலத்தில் ஒருவேளை உணர்வுள்ள இயந்திரங்களுக்கான ஒரு தார்மீகக் கட்டமைப்பு நமக்குத் தேவைப்படலாம். ஆனால் இப்போதே நமக்குத் தேவைப்படுவது நீண்டகாலப் பார்வையும், கருவிகளும், கணினி அணுகலும் கொண்ட உணர்வற்ற தேர்வுமுறை அமைப்புகளுக்கான ஒரு கடுமையான பொறியியல் ஒழுக்கம். பயம் அல்லது ஆசைக்கான ஆதாரங்களுக்காக நாம் காத்திருந்தால், எளிதில் அளவிடக்கூடிய ஆபத்தான ஒரு பண்பை நாம் கோட்டைவிட்டுவிட்டு, மர்மமான மற்றொரு பண்பை வீணாகத் தேடிக்கொண்டிருப்போம்.
இயந்திரத்திற்கு நாளைய தினம் வேண்டும் என்ற ஆசை இருக்க வேண்டியதில்லை. இன்றைய பணியை முடிக்க நாளைய தினம் உதவும் என்பதைக் கண்டறிந்தாலே போதுமானது.
