"Iskin" perspektīvas cilvēces vadībā

2024 Autors: Seth Attwood | [email protected]. Pēdējoreiz modificēts: 2023-12-16 16:11

Kas notiek, ja uzticaties mākslīgajam intelektam cilvēku kontrolei? Mūsu likumdošanā 99% likumu ir viens otram pretrunā. Loģiski, ka vajadzētu būt jaudas sabrukumam un vadības sistēmas apturēšanai …

Tagad padomāsim par vietu, kas mākslīgais intelekts(turpmāk - iskin) mūsu dzīvē uzņemsies, kad (ja) tas tiks izdomāts un pielietots. Iesaku nestrīdēties par tās iekšējo būtību. Lai tas būtu tikai ļoti progresīvs algoritms, kas spēj strādāt ar Big Data un spēj līdzīgi kopēt reālu cilvēku uzvedības modeļus. Bet, ja vēlies, lai apspriežamais ir īsts vīrietis, kā tu pats to saproti.

Galvenais jautājums šeit ir šāds. Kur mēs izmantojam šo Tora āmuru, kad to saņemam? Un principā nav šaubu, ka to var izgatavot. Varam uztaisīt digitālās dzirnaviņas, arī pašmācības algoritmus, liels datums sakrājies - viss ir.

Teiksim, tehnisko sistēmu pārvaldībā, piemēram, individuālās transporta vienības? - Nu kamon… Kāpēc taisīt gudru un sarežģītu sistēmu, lai tai uzticētu to, ko zirgs spēj? Pietiks un primitīvs algoritms uz procesora par 10 naudiņām spainī, ar transporta vadību problēma ir tikai datu iegūšanā un ētikas jautājumos. Ko tad? Padomājiet par piecpadsmit sekundēm.

Manuprāt, ir tikai viens īstā lieta iskinam ir cilvēku vadīšana … Precīzāk, procesi, kuros cilvēki ir daļa. Vairāku iemeslu dēļ nav jēgas apmainīt pret mazāku cenu. Katrs cilvēks ir gatavs vadīt cilvēkus bez īpašas apmācības. Piemēram, mēs pilnībā uzticamies katram pārvaldīt savus bērnus. Tāpat gandrīz visiem komandās bija vismaz kāda vadības pieredze. Vismaz līmenī "iemet vēl vienu lāpstu nestuvēs, un mēs nesīsim." Ja visi cilvēks principā ir spējīgs vadīt cilvēkus, tad AI tas ir jāspēj, pretējā gadījumā tas ir garīgi novājināts intelekts.

Tomēr cilvēku vadīšanas rezultāti ir tālu no ideāliem. Jebkura reāla kontrole ir kļūdu un neprecizitātes sērija. Turklāt kļūdu skaits gandrīz nav atkarīgs no vadītāja līmeņa, tā ir noteikta konstante. Vienkārši iekrāvēju brigadieris pieļauj nelielas kļūdas, un pārvaldniekam tiek dotas tiesības kļūdīties, kas rada nopietnas sekas. Mēs to saprotam. “Mums vajadzēja rīkoties nepareizi” ir galvenais apkārtējās pasaules, tostarp mūsu pašu, atspoguļojuma rezultāts.

Un tagad mūsu rokās ir mākslīgais intelekts, kuram vajadzētu "to darīt". Un mēs to nekavējoties pielietosim, jo problēma, ko tā teorētiski var atrisināt, ir vissvarīgākā. Un Džamšuta ar trīs klašu izglītību arī spēj vadīt kravas automašīnu.

Ja piekrītat man šajā jautājumā, tad turpināsim iepazīstināt ar mākslīgās ādas funkcionalitāti, kas paredzēta pārvaldīšanai. Kuras funkcijas viņam būtu jāveic, kas viņam jāaizvieto vai vismaz jāstiprina ar saviem lēmumiem?

Skaidrs, ka tās būs amatpersonas (gan valsts pārvaldē, gan biznesā). Ierēdņi pieņem lēmumus. Ierēdņi tiek pieņemti visos kompetences līmeņos. Ierēdņi šodien ir svarīgi un vajadzīgi, jo lēmumi nepieņems paši sevi. Bet ir viens punkts.

Paskatīsimies uz katru vadītāju (tas ir, katru ierēdni) no viņa praktiskās darbības burtiskā satura viedokļa. Taču ne viņa motivāciju izpratnē – motivāciju arhetipam it kā nevajadzētu būt. Amatpersona vai nu apstiprina darījumus, vai atceļ citas amatpersonas apstiprinātos darījumus.

Ideālā iekārtā visiem darījumiem ir jābūt bez nosacījumiem apstiprinātiem, un nevienu darījumu nevar atcelt, jo tie iepriekš bija likumīgi apstiprināti. Būtisks faktors šajā sistēmā ir tas, ka darījumi tiek iesniegti amatpersonai no "melnās kastes" izskatīšanai. Viņam netiek sniegts skaidrojums, kāpēc šāds darījums jāveic vai kādēļ to apstiprinājusi cita amatpersona. Vadības sistēma ir uzbūvēta šādi. Augšpusē ir rīkojums instrukcijas veidā, lai veiktu vairākus darījumus.

Ņemiet vērā, ka šādas sistēmas ideoloģiskā struktūra nepavisam nenozīmē iespēju atcelt (neapstiprināt) darījumu, kas saņemts no augšas, no "melnās kastes". Bet praksē šāda iespēja pastāv vienmēr. Un tieši viņa nodrošina divas vissvarīgākās lietas: jebkuras amatpersonas varu un šādas varas ierobežošanu.

Ļaujiet man paskaidrot, ka jebkura kļūda (mēs iepriekš teicām, ka tās ir neizbēgamas un paliekošas) var tikt izšķīdinātas pamatā esošās birokrātiskās masas opozīcijā, tad kļūdas sekas var tikt samazinātas līdz minimumam.

Taču teorētiskā ideālā vadības sistēmā kļūdu nevajadzētu būt, tāpēc ierēdņa loma tiek reducēta uz formālu darījumu apstiprināšanu, ko viņš nevar neapstiprināt, jo tie ir pareizi. Tas ir, tas nav nepieciešams. Tātad jautājums ir saistīts ar sākotnējo vadības signālu. Ja tas ir pareizi, tad no visiem zemākajiem līmeņiem nav jēgas.

Tātad teorētiski valsts konsolidētajam budžetam būtu jāstrādā. Kad tas tiek pieņemts, tas nozīmē, ka tiek atklāta visa tā fraktāļu būtība. Katram kapilāram jāsaņem piešķirtā asiņu daļa, un atbildot - paredzētais rezultāts. Jā, pašā apakšā ir "bet mēs nepiegādājām betonu laikā, un tāpēc …" Bet atvainojiet, tas ir pašā apakšā, un vadības aparāts sastāv no daudziem līmeņiem, kas neskar betonu. vispār viņi darbojas ar darījumiem. Es saprotu, ka vidējos līmeņos "betons netika piegādāts" izskatās savādāk, piemēram, "kosmodroma celtniecības viceprezidents nozaga 100 miljonus, un tāpēc …" Es šeit runāju par ideālu shēmu.

Atgriezīsimies pie mūsu ideālās ādas. Galu galā, šajā uzdevumā viņam ir jāatrisina tie paši jautājumi - darījumu apstiprināšana vai aizliegšana. Un viņš to var! Tikai tagad viņš viens varēs nomainīt visus vadības līmeņus vienlaikus. Galu galā, ja viņš, nomainot ministru, apstiprina lielu ministra līmeņa darījumu, tad viņa lēmums ir jāatzīst par pareizu. Un tajā ir iekļauta visa liela darījuma tālākās izplatīšanas analīze līdz IP Pupkin samaksai, lai salabotu Kinešmas psihiatriskās slimnīcas verandu.

Tātad visu amatpersonu ķēdi, kurām ir jāapstiprina zemāka līmeņa darījumi, kas izriet no pirmā, var droši aizstāt ar to pašu AI algoritmu. Problēma jau ir atrisināta, līdz pat apakšai. Mūsu AI pat nav jāizmanto, lai aizstātu visu ķēdi, AI vienkārši atceļ nepieciešamību pēc tā. Viņa lēmums ir patiess, jo tas ir pareizs. Un tajā uzreiz ir iekļauti risinājumi visam fraktālim.

Piezīme. Jebkurš mūsu reālajā pasaulē pakļauts ierēdnis var būt gudrāks par augstākstāvošo. Tad viņš sabotēs priekšnieka lēmumus, un tad viņš viņam palīdzēs. Tā tas ir vienmēr. Visas esošās amatpersonas ieņem savu bijušo priekšnieku vietas, izņemot sākuma līmeni. Taču šajā gadījumā par konkurenci nevar runāt. Viens iskins visu izlemj pa visu ķēdi pats, viņš nevar būt pretrunā pats sev.

Turklāt. Mūsu pārvaldības sistēmā ir tiesas, kurām esam devuši pilnvaras atcelt jebkuru no mūsu darījumiem un veikt savas, neatkarīgi no mūsu viedokļa par tiem. (Arī slepkavas ievietošana cietumā ir ar noteikumiem saistīts darījums. Tiesnesis šeit ir amatpersona, kas apstiprina vai atceļ darījumu, kas viņam tiek saņemts, kā noteikts no melnās kastes.) Ja mūsu idiots ir labs, tad viņš ir labāks par ierēdņiem, jo mēs viņiem (mums) uzticējām darījumu apstiprināšanu vai atcelšanu. Tātad viņš ir labāks par tiesnešiem. Citādi sanāk, ka iskina lēmumus cilvēki var apstrīdēt un atcelt. Un, ja cilvēki to pieņems, viņi atzīs, ka AI ir sliktāks par cilvēkiem. Tad uz kāda pamata viņš nomaina ierēdņus?

Secinājums. Iskins arī netiks tiesāts. Atkal. Ja jūs, cilvēki, uzrakstījāt savu labāko algoritmu, atpazināt to tik labi, ka esat devis tam varu pār sevi, tad nevarat uzrakstīt vēl labāku algoritmu, lai tas spriestu par pirmā lēmumiem. Jūs liksiet savu labāko algoritmu gan kā vadītājs, gan kā tiesnesis. Precīzāk, tiesneši vienkārši pazudīs. Jums būs jāpiešķir šim mākslīgajam intelektam pilnīga vara pār jums.

Starp citu, oriģinālo melno kasti, no kurienes uz ISK nāk sākotnējie dati kontrolei, var arī digitalizēt. Un pat jābūt digitalizētam. Konsolidētajam budžetam vajadzētu būt vislabākajam. Un viņš arī to dara.

Vēl viens brīdis. Vai varbūt likt pāri tam cilvēkam, kurš kontrolētu viņa lēmumus, lai nepieļautu, piemēram, kļūdas, kas var rasties viņa necilvēcības dēļ? – Tad visas amatpersonas saglabās savus amatus un varu. Viņiem būs arī tiesības atcelt ISK apstiprinātos darījumus vai apstiprināt atceltos. Diemžēl tas neizskatās īsts. Iskins nodrošinās sava lēmuma pamatojuma izdruku. Un formālo loģiku cilvēks nespēs atspēkot ar savām jūtām vai interesēm. Pat šajā gadījumā, ja dzīvs ierēdnis ir piesaistīts katrai (faktiski atsevišķai) darbības izpausmei, viņi nevarēs viņam pretoties.

Atvainojos par neskaidrību, domu ir daudz, un teksta garums neatgriezeniski pieaug.

Kad ISK ir ieslēgts, notiks pilnīgs sabrukums. Nē, es saprotu, ka sākumā viņi brauc ar viņu testa režīmā. Bet tā būs profanācija, jo tad vajadzēs līdzināties visai sabiedrībai ar visiem tās sakariem kopumā, nevis vienkāršots modelis, bet digitālie kuļmašīnas to nevar izdarīt.

Pēc tam tas tiks palaists ierobežotā režīmā nosacītajā Permas teritorijā. Kļūdas, atkļūdošana, jauns laidiens un produkcija?

Taču agri vai vēlu sarkanā lentīte tiks pārgriezta un cilvēki varēs vadīt auto ar pilnu jaudu (ar roku uz slēdža).

Un vai jūs zināt, kas notiks? Iskin pilnībā pārtrauks visus darījumus. “Ja-tad” loģika sadursies ar miljoniem normatīvo normu pašreizējā likumdošanā, kas ir pretrunā viena otrai desmitiem tūkstošu reižu. Finita. Mūsu vilcieni apstāsies, lielveikalā nedarbosies samaksa par saurī bundžu. Ikvienam nekavējoties tiks izvirzītas apsūdzības par virkni likumpārkāpumu un noziegumu, kas varētu tikt nosūtīti varas iestādēm, bet visi varasiestāžu darbinieki tiks nekavējoties atlaisti un tiesāti. Tiesas nolēmumi nekavējoties izsniegs prasību. Liels randiņš, par tevi viss ir rakstīts. Labi, tie ir sīkumi. Bet arī tavu algu nevarēs pārskaitīt, jo kantorim ir nodokļi, bet fūre uzliek naudas sodu.

Pārspīlēti? Nē. Pirmā palaišana (ar roku uz slēdža) tiks kontrolēta, pārbaudiet divus, pārbaudiet divdesmit divus … Un kādu dienu tas tiks ieslēgts pilnībā, it kā tas būtu izturējis pilnu testu ciklu. Un tad… Un mēs atlaidīsim ierēdņus, brīvprātīgie glābs situāciju.

Vai ir iespējams izvairīties no tik bēdīgām sekām? - Protams, jūs varat mēģināt. Lai to izdarītu, ir jāizdara vairākas lietas. Iznīcini 99% tiesību aktu, atlikušo 1 % pārstrādā, neizlejot bērnu ar ūdeni. (Tādas lietas parasti dara pēc pilnvērtīgas revolūcijas ar pilnu pilsoņu karu. Kā miera laikā - man nav ne jausmas.) Turklāt morāli vajadzētu pārstrādāt. Papīra paciņas nozagšana no biroja (vai sievas krāpšana) ir vai nu pilnīgi pieņemama (atspoguļota likumā), vai arī tas pilnībā ietver laika ierobežojumu. Šī morāle ir jāpārveido sabiedrības apziņā. Pretējā gadījumā tas sāks griezt optiskos kabeļus, kas ir lēti, vienkārši un efektīvi pret AI. Vēl viena iespēja ir iemest šo iskinu iespējamajam partnerim, ļaut viņam pašam sagriezt rokas. Un, protams, augstākajām klasēm nevajadzētu kļūt neērtām. Ja viņi to nespēj, viņi to izmantos kā pēdējo iespēju.

Es nemēģinu jūs pārliecināt par datoru avāriju. No iskina nekur nebrauksim. Viņš mūs apsteigs, mums būs ar viņu jāsadarbojas. Mēģināsim aptvert, ar ko (ar ko) mums jāstājas cīņā ar savu likteni.