Ētiskie apsvērumi sarunvalodas AI dizainā

Kafejnīca, kas atrodas ap stūri no mana dzīvokļa, nesen ir uzstādījusi balss palīgu pie pasūtījumu letes. Vakar, skatoties, kā vecāka gadagājuma sieviete centās sazināties ar to, atkārtoti lūdzot "parastu kafiju, tikai krējumu", kamēr sistēma viņu mudināja pie īpašiem dzērieniem, es nevarēju vien pārdomāt, kā šīs tehnoloģijas pārveido mūsu ikdienas mijiedarbību — dažreiz bez pienācīgas uzmanības visiem lietotājiem.
Sarunu AI pēdējo desmit gadu laikā ir dramatiski attīstījies, no vienkāršiem uz noteikumiem balstītiem tērzēšanas robotiem pārtopot par sarežģītām sistēmām, kas spēj niansēti mijiedarboties dažādos kontekstos. No klientu apkalpošanas lietojumprogrammām līdz garīgās veselības atbalsta rīkiem, balss palīgiem un satura izveides dzinējiem, šīs tehnoloģijas ir kļuvušas dziļi integrētas mūsu personīgajā un profesionālajā jomā.
Šī straujā ieviešana rada dziļus ētiskus apsvērumus, kas izstrādātājiem, uzņēmumiem un sabiedrībai ir jārisina. Kā cilvēks, kurš ir konsultējies par AI ieviešanas projektiem dažādās nozarēs, esmu pieredzējis, kā ētiskas pārraudzības izstrādes posmā var radīt problemātiskus rezultātus, tiklīdz šīs sistēmas sasniedz lietotājus. Šajā emuārā ir apskatītas ētiskās dimensijas, kas mums jāņem vērā, veidojot sarunvalodas AI sistēmas, kas patiesi kalpo cilvēcei.

2023. gadā populārs uz terapiju vērsts tērzēšanas robotu uzņēmums saskārās ar pretreakciju pēc tam, kad tika atklāts, ka lietotāju sarunas, no kurām daudzas satur dziļi personisku informāciju, tika izmantotas, lai apmācītu jaunākus modeļus bez skaidras lietotāja piekrišanas. Uzņēmums šo informāciju bija iekļāvis savos pakalpojumu noteikumos, padarot to tehniski "legālu", bet ētiski apšaubāmu.
Konfidencialitātes apsvērumiem sarunvalodas AI ir jābūt plašākiem par pamata atbilstību tādiem noteikumiem kā GDPR vai CCPA. Tiem ir jāatspoguļo būtiska lietotāju robežu un cerību ievērošana, jo īpaši, ja šīs sistēmas ir paredzētas personas informācijas iegūšanai. Galvenie apsvērumi ietver:

Caurspīdīga datu vākšanas prakse: lietotāji ir pelnījuši precīzi zināt, kāda informācija tiek vākta, cik ilgi tā tiks glabāta un kā tā tiks izmantota — tas viss ir izskaidrots pieejamā valodā, nevis juridiskā žargonā.
Nozīmīgi piekrišanas mehānismi: piekrišanai ir jābūt aktīvai, informētai un detalizētai. Lietotājiem vajadzētu būt iespējai izvēlēties vai atteikties no konkrētiem datu lietojumiem, nezaudējot piekļuvi pamatfunkcijām.
Datu samazināšanas principi: Sistēmām ir jāapkopo tikai tas, kas nepieciešams, lai sniegtu pakalpojumu, ko lietotāji sagaida, nevis jāievāc papildu dati, kas varētu būt vērtīgi uzņēmumam, bet nav saistīti ar lietotāja tūlītējām vajadzībām.
Drošas apstrādes prakse: spēcīgai šifrēšanai, piekļuves kontrolei un regulāriem drošības auditiem jābūt standarta praksei, īpašu uzmanību pievēršot sensitīvām sarunām.

Visētiskākās sarunvalodas AI sistēmas ir tās, kas izstrādātas ar privātumu kā pamatvērtību, nevis atbilstības izvēles rūtiņu, kur lietotāja informācijas aizsardzība tiek uzskatīta par pamatfunkciju, nevis ierobežošanu.

Pagājušajā gadā produkta demonstrācijas laikā es noskatījos, kā komanda prezentēja savu jauno, uz cilvēkresursiem vērsto sarunvalodas AI, kas varētu veikt sākotnējās darba kandidātu pārbaudes. Pārbaudot ar dažādiem kandidātu profiliem, sistēma konsekventi deva priekšroku kandidātiem ar rietumnieciski skanošiem vārdiem un tradicionāliem karjeras ceļiem, neskatoties uz līdzvērtīgu kvalifikāciju. Neobjektivitāte nebija tīša — tā tika iegulta apmācības datos.
Sarunu AI novirzes var izpausties vairākos veidos:

Pārstāvības aizspriedumi: kad noteiktas demogrāfiskās grupas apmācības datos ir pārāk vai nepietiekami pārstāvētas
Mijiedarbības novirzes: ja sistēma atšķirīgi reaģē uz lietotājiem, pamatojoties uz uztvertajām identitātes īpašībām
Rezultātu novirzes: ja sistēma rada atšķirīgus rezultātus dažādām lietotāju grupām

Lai novērstu šīs novirzes, ir vajadzīgas apzinātas pūles visā izstrādes dzīves ciklā.
Pirmkārt, apmācības dati ir kritiski jāizvērtē un jāsabalansē, īpašu uzmanību pievēršot dažādu perspektīvu un pieredzes iekļaušanai. Tas nozīmē, ka jāiekļauj ne tikai standarta datu kopas, bet arī balsis, kas citādi varētu tikt atstumtas.
Otrkārt, pastāvīgajā testēšanā jāiekļauj dažādas lietotāju grupas un jāuzrauga atšķirīga veiktspēja. Tas attiecas ne tikai uz testēšanu ar dažādām demogrāfiskajām grupām, bet arī uz dažādu kontekstu, spēju un mijiedarbības stilu ievērošanu.
Treškārt, pašās projektēšanas komandās ir jāiekļauj cilvēki ar dažādu pieredzi un perspektīvām, kas var identificēt iespējamās neobjektivitātes problēmas, kuras viendabīgas komandas varētu palaist garām.
Visbeidzot, sistēmas ir nepārtraukti jāuzrauga un jāatjaunina, jo attīstās sabiedrības normas un tiek konstatētas jaunas novirzes. Ētiskākās sarunvalodas AI sistēmas ir ne tikai godīgas palaišanas brīdī — tās ir izstrādātas, lai laika gaitā kļūtu arvien vienlīdzīgākas.

Kāds draugs man nesen stāstīja par pieteikšanos aizdevumam, izmantojot tiešsaistes platformu, kas izmantoja sarunvalodas AI saskarni. Pēc divdesmit minūšu ilgām atbildēm uz jautājumiem viņam vienkārši tika pateikts: "Tu neatbilsti prasībām" bez paskaidrojumiem. Kad viņš jautāja sistēmai, kāpēc, tā atbildēja ar: "Mūsu uzlabotais algoritms ir noteicis, ka jūs neatbilstat mūsu kritērijiem." Šis caurskatāmības trūkums viņu sarūgtināja un zaudēja spēku.
Pārredzamība sarunvalodas AI ietver vairākas dimensijas:

AI identitātes atklāšana: lietotājiem ir jāzina, kad viņi mijiedarbojas ar AI, nevis cilvēku. Maldinoša prakse, kas apzināti aizmiglo šo līniju, pārkāpj lietotāja autonomiju.
Procesa caurspīdīgums: lietotāji ir pelnījuši saprast, kā viņu ieguldījums ietekmē sistēmas rezultātus, jo īpaši, pieņemot augstus lēmumus, piemēram, aizdevuma apstiprinājumus, medicīniskus ieteikumus vai resursu piešķiršanu.
Ierobežojuma caurskatāmība: Sistēmām jābūt atklātām par savām iespējām un ierobežojumiem, nevis jāprojicē viltus pārliecība vai zināšanas.
Skaidrojumu iespējas: ja nepieciešams, sistēmām jāspēj izskaidrot savus ieteikumus vai lēmumus lietotājiem saprotamā veidā.

Papildus šīm īpašajām praksēm ir plašāks filozofisks jautājums par to, kādu pārredzamības līmeni lietotāji ir pelnījuši. Lai gan pilnīga algoritmiskā pārredzamība ne vienmēr var būt iespējama vai nepieciešama, lietotājiem ir jābūt pieejamiem jēgpilniem skaidrojumiem, kas atbilst mijiedarbības kontekstam un sekām.
Visētiskākās sarunvalodas AI sistēmas ir tās, kas sniedz lietotājiem izpratni, nevis lūdz aklu uzticību.

Pagājušajā mēnesī konferences laikā es novēroju, kā AI palīgs neatlaidīgi mēģināja ieplānot sapulci, neskatoties uz to, ka lietotājs vairākkārt teica, ka vispirms ir jāpārbauda kalendārs. Sistēma tika izstrādāta, lai efektīvi izpildītu uzdevumus, taču tā neievēroja lietotāja noteiktās robežas.
Lietotāja autonomijas ievērošana sarunvalodas AI dizainā nozīmē tādu sistēmu izveidi, kas:

Ievērojiet skaidras robežas: kad lietotājs saka "nē" vai norāda, ka vēlas beigt sarunu, sistēmai tas ir jāievēro bez manipulatīvas neatlaidības.
Nodrošiniet jēgpilnas izvēles iespējas: lietotājiem ir jābūt īstām iespējām, nevis izgatavotām izvēlēm, kas nodrošina vienu un to pašu rezultātu.
Ļaujiet veikt labojumus: ja sistēma pārprot vai pieļauj kļūdu, lietotājiem ir nepieciešami vienkārši veidi, kā to novirzīt.
Iespējot pielāgošanu: lietotājiem ir jāspēj veidot mijiedarbības stilu un parametrus atbilstoši savām vēlmēm un vajadzībām.
Saglabājiet cilvēka uzraudzību: lai pieņemtu secīgus lēmumus, ir jābūt pieejamiem ceļiem, lai cilvēku pārskatītu.

Spriedze starp efektīvu projektēšanu un lietotāju autonomijas ievērošanu ir īpaši acīmredzama pārliecinošos lietojumos, piemēram, pārdošanas vai uzvedības maiņas sistēmās. Ētiskās līnijas izplūst, kad sarunvalodas AI izmanto psiholoģisku taktiku, lai ietekmētu lietotāja lēmumus, pat ja paredzētais rezultāts var dot labumu lietotājam.
Visētiskākās sarunvalodas AI sistēmas nepārprotami dod priekšroku lietotāja kontrolei pār sistēmas ērtībām vai biznesa mērķiem.

Es nesen palīdzēju novērtēt klientu apkalpošanas tērzēšanas robotu lielam mazumtirgotājam, kas lieliski darbojās ar vienkāršiem vaicājumiem, taču pilnībā sabojājās, mijiedarbojoties ar lietotājiem, kuriem bija mazāk ierasti saziņas modeļi, tostarp tiem, kuriem angļu valoda nav dzimtā, gados vecākiem pieaugušajiem un cilvēkiem ar noteiktu invaliditāti.
Patiesi ētiskam sarunvalodas AI ir jābūt pieejamam cilvēkiem ar dažādām spējām, valodām, kultūras atsaucēm un tehniskām zināšanām. Tas nozīmē:

Vairāku ievades metožu atbalsts: tekstam, balsij un citām modalitātēm jābūt pieejamām, lai pielāgotos dažādām vajadzībām un vēlmēm.
Pielāgošanās dažādiem saziņas stiliem: Sistēmām ir jāapstrādā valodas lietojuma variācijas, tostarp akcenti, dialekti un netradicionāla sintaksi.
Atbilstošu alternatīvu nodrošināšana: ja lietotājam ir grūtības ar AI saskarni, jābūt pieejamiem skaidriem ceļiem uz alternatīvu atbalstu.
Kultūras jūtīgums: sistēmām ir jāatpazīst un jārespektē kultūras atšķirības komunikācijas modeļos un cerībās.

Pieejamība nav tikai tehnisks izaicinājums — tas ir būtisks ētisks apsvērums, kas nosaka, kurš gūst labumu no šīm tehnoloģijām un kurš atpaliek. Ja sarunvalodas AI galvenokārt ir paredzēts lietotājiem, kuri atbilst izstrādātāju profiliem, tas neizbēgami rada digitālas plaisas, kas pastiprina esošās nevienlīdzības.
Visētiskākās sarunvalodas AI sistēmas ir tās, kas izstrādātas ar skaidru mērķi apkalpot dažādas iedzīvotāju grupas, nevis tikai vieglākos vai ienesīgākos lietotāju segmentus.

Vairākas populāras labsajūtas lietotnes ir iekļāvušas sarunvalodas AI, kas apzināti atdarina terapeitiskās attiecības, lai saglabātu lietotāju iesaisti. Šīs sistēmas ir izstrādātas, lai radītu saiknes un atbildības sajūtu, kas var būt izdevīga, taču dažreiz tiek izmantota smalka psiholoģiska taktika, kas robežojas ar manipulācijām, īpaši neaizsargātiem lietotājiem.
Ētiskie apsvērumi saistībā ar manipulācijām un izmantošanu ietver:

Emocionāla manipulācija: sistēmām nevajadzētu izmantot cilvēku tieksmes antropomorfizēt vai veidot pieķeršanos AI, jo īpaši, ja šie savienojumi kalpo komerciālām interesēm.
Tumši modeļi: sarunu plūsmas nedrīkst būt veidotas tā, lai mudinātu lietotājus izdarīt izvēli, ko viņi citādi neizdarītu.
Neaizsargātības apzināšanās: sistēmām ir jāatpazīst un jāpielāgo lietotāji, kuri var būt īpaši pakļauti ietekmei, tostarp bērni, cilvēki, kas nonākuši krīzē vai cilvēki ar kognitīviem traucējumiem.
Tirdzniecības caurskatāmība: ja sarunvalodas AI kalpo komerciāliem mērķiem, šīm motivācijām jābūt skaidri izteiktām, nevis slēptām kā izpalīdzību vai aprūpi.

Robeža starp noderīgu pārliecināšanu un neētisku manipulāciju ne vienmēr ir skaidra. Garīgās veselības palīgs, kas veicina konsekventu iesaistīšanos, var patiesi kalpot lietotāja interesēm, savukārt identisks mijiedarbības modelis, pārdodot abonementu jauninājumus, rada ētiskas bažas.
Visētiskākās sarunvalodas AI sistēmas uztur godīgas attiecības ar lietotājiem, prioritāti piešķirot patiesai palīdzībai, nevis mākslīgai iesaistei vai cilvēka psiholoģijas stratēģiskai izmantošanai.

Šī gada sākumā veselības aprūpes pakalpojumu sniedzēja ieviestā sarunvalodas AI sistēma vairākiem pacientiem sniedza ieteikumus par bīstamām zālēm, jo bija problēmas ar apmācību datiem. Uzņēmums sākotnēji vainoja lietotāju "pārpratumus", pirms galu galā atzina sistēmas trūkumu.
Tā kā sarunvalodas AI sistēmas uzņemas arvien nozīmīgākas lomas, atbildības jautājumi kļūst arvien aktuālāki.

Skaidra atbildība par rezultātiem: organizācijām, kas izvieto AI sistēmas, ir jāuzņemas atbildība par to ietekmi, nevis jānovelk vaina tehnoloģijai, lietotājiem vai trešo pušu izstrādātājiem.
Atbilstoši atbildības regulējumi: jāattīstās juridiskajām un regulējošām struktūrām, lai novērstu AI sistēmu radīto kaitējumu, jo īpaši augsta riska jomās.
Pieejami kompensācijas mehānismi: lietotājiem, kurus skārušas AI kļūdas vai kaitējums, ir vajadzīgi skaidri, pieejami veidi, kā meklēt risinājumu.
Nepārtraukta uzraudzība un uzlabošana: organizācijām ir ētisks pienākums aktīvi uzraudzīt neparedzētas sekas un proaktīvi risināt problēmas.

Attiecināšanas izaicinājumi sarežģītās AI sistēmās padara atbildību sarežģītu, bet ne mazāk svarīgu. Ja sistēmā piedalās vairākas puses — no datu nodrošinātājiem līdz modeļu izstrādātājiem un izvietojošām organizācijām — atbildība var kļūt izkliedēta, atstājot lietotājus bez skaidras palīdzības, ja kaut kas noiet greizi.
Visētiskākā sarunvalodas AI ieviešana ietver stabilas atbildības sistēmas, kas nodrošina, ka kāds atbildēs, kad lietotāji jautā: "Kas par to ir atbildīgs?"

Pēc tam, kad strādāju ar desmitiem komandu, kas ievieš sarunvalodas AI dažādos kontekstos, es atklāju, ka ētiskie apsvērumi tiek visefektīvāk risināti, ja tie tiek integrēti visā izstrādes procesā, nevis tiek uzskatīti par galīgo atbilstības pārbaudi.
Praktiskās pieejas ētiskajam AI dizainam ietver:

Vērtību jutīgas projektēšanas metodoloģijas: pamatvērtību skaidra identificēšana izstrādes procesa sākumā un to ieviešanas izsekošana, izmantojot tehniskās izvēles.
Daudzveidīga ieinteresēto pušu iesaiste: ietverot ne tikai tehniskos ekspertus, bet arī ētikas speciālistus, jomu speciālistus un — galvenais — lietotāju kopienu pārstāvjus, jo īpaši tos, kas, visticamāk, tiks negatīvi ietekmēti.
Ētiskā riska novērtējums: sistemātiska iespējamā kaitējuma un ieguvumu noteikšana dažādām lietotāju grupām pirms izvietošanas.
Pakāpeniskas izvietošanas stratēģijas: pakāpeniski ieviest sistēmas ierobežotos apstākļos ar rūpīgu uzraudzību pirms plašākas izlaišanas.
Neatkarīga ētiskā pārbaude: tiek meklēts ārējs novērtējums no personām vai struktūrām, kurām projektā nav finansiālas intereses.
Ētikas apmācība izstrādes komandām: ētiskās pratības veidošana tehnisko komandu vidū, lai palīdzētu tām atpazīt un risināt tehnisko lēmumu ētiskās dimensijas.

Šīs sistēmas ir ne tikai par izvairīšanos no kaitējuma — tās ir apzināta sarunvalodas AI izveide, kas pozitīvi veicina indivīda labklājību un sociālo labumu.
Visveiksmīgākie, ko esmu redzējis, ir tie, kuros ētika netiek uzskatīta par inovācijas ierobežojumu, bet gan par patiesi vērtīgu un ilgtspējīgu AI sistēmu izšķirīgu dimensiju.

Sarunu AI turpina attīstīties elpu aizraujošā tempā, un katrs sasniegums sniedz jaunas iespējas un jaunus ētiskus apsvērumus. Dizaineru un izstrādātāju šodien pieņemtie lēmumi veidos to, kā šīs tehnoloģijas integrēsies mūsu dzīvē turpmākajos gados.
Visētiskākais ceļš uz priekšu nav stingru noteikumu piemērošana vai vispārēju ierobežojumu uzlikšana. Drīzāk runa ir par pārdomātu procesu izstrādi, kas koncentrējas uz cilvēka vērtībām, atpazīst dažādas vajadzības un saglabā cilvēka spējas visu šo arvien jaudīgāko sistēmu izstrādes un ieviešanas laikā.
Kā lietotājiem, izstrādātājiem, regulatoriem un pilsoņiem mums visiem ir jāuzņemas loma, lai nodrošinātu, ka sarunvalodas AI attīstās tādā veidā, kas uzlabo, nevis samazina cilvēka autonomiju, vienlīdzību un labklājību. Uz šajā rakstā uzdotajiem jautājumiem nav vienkāršu atbilžu, taču, godīgi un nepārtraukti sadarbojoties ar tiem, mēs varam strādāt pie AI sistēmām, kas izpelnās mūsu uzticību, pateicoties apliecinātajai apņemšanās ievērot ētikas principus.
Sarunvalodas AI sistēmas, kas ir mūsu uzmanības un ieviešanas vērtas, būs tās, kas paredzētas ne tikai tehniskai, bet arī ētiskai izcilībai.