Xolution Skupina

Úvod

Sme technologická softvérová firma, ktorá produkty vyvíja a následne aj používa. Vďaka tomu sme si dobre vedomí toho, ako môže naša práca ovplyvňovať okolitý svet. A nie je nám ľahostajné, akú stopu za sebou zanechávame, už len kvôli samotnej povahe našej cesty – uľahčovať ľuďom okolo nás nástup do rozbehnutého vlaku inovácií.

Umelú inteligenciu vnímame ako doplnok, a nie náhradu pracovnej sily. Preto sa snažíme vytvárať riešenia, ktoré sa neinvazívnym spôsobom začlenia do chodu firiem. Zmysel AI vidíme v činnosti, pri ktorej sa ľuďom uvolnia ruky k tomu, aby sa mohli naplno venovať svojej profesii. Napríklad zdravotné sestry v nemocnici nebudú musieť „sedieť na telefóne“, namiesto toho budú môcť pomáhať svojim pacientom.

Umelú inteligenciu v ekonomickej rovine vidíme tiež v podobe autonómnych a semi-autonómnych firiem, ktoré fungujú ako doplnok k už existujúcim. Tieto firmy budú zvyšovať HDP a bohatstvo ľudstva, avšak nie na úkor nezamestnanosti. Pomôžu mnohým malým podnikateľom začať podnikať v oblastiach, kde by to už dnes kvôli silnej konkurencii a obrovským vstupným nákladom nebolo možné.

Zároveň treba dodať, že Xolution neuznává myšlienky a filozofiu NRx, transhumanizmu alebo Dark Enlightenmentu.

Dôveryhodná AI

Pod pojmom dôveryhodná AI vnímame v Xolution také systémy, ktoré nenarúšajú poriadok v spoločnosti, sú kompatibilné s reguláciami (ako je GDPR či AIA) a podporujú osobnú a biznisovú diverzitu.

Dôležitým prvkom v našich systémoch je vysvetliteľnosť a flexibilita náprav. Sme si vedomí toho, že systémy umelej inteligencie sú umiestnené do prostredia, v ktorom nie sú presne zadefinované vstupy alebo výstupy, a tak pracujú s ohromným množstvom stavov, ktoré nie je možné vopred odladiť. Dôležité pre nás však je vedieť s nimi pracovať, identifikovať problém a mať možnosť zasiahnuť v podobe opravy. Chceme, aby systémy AI boli pod kontrolou človeka.

Cieľom tohoto memoranda je verejne deklarovať tieto hodnoty, a to ako pre klientov, tak aj pre interných členov tímov.

Čo pre to robíme?

Spôsob, akým vnímame náš dosah na okolie, je v prvom rade ten, aký úžitok z našich produktov majú klienti našich zákazníkov. Keď sme si uvedomili, že sami by sme nemali záujem komunikovať so strojom, ktorý nám nerozumie, stalo sa našou jasnou výzvou hľadať iné cesty – také, akými je možné porozumenie chatbotu ľuďmi dosiahnuť. Nerobíme kvôli benefitom to, čo nám nedáva zmysel. Pokiaľ riešenie neprináša spoločnosti úžitok, potom to nie je cesta, ktorou by sme mali záujem kráčať.

Cieľom je, aby výsledky našej práce dávali zmysel kolegom, klientom a celkovej povahe našej firmy. Preto neustále diskutujeme o našich zámeroch a víziách na celofiremných mítingoch, na ktorých sa pravidelne stretávame. V uvoľnenej a otvorenej atmosfére má každý z firmy priestor na vyjadrenie svojich názorov, myšlienok a nápadov.

Naša firma má záujem o budovanie dobrého mena aj preto, aby sme sa v nej všetci mohli dobre cítiť, aby sme mohli byť spokojní, kde pracujeme, a aby sme sa dokázali stotožnit s tým, na čom pracujeme. Dôležitý je pre nás pocit spolupatričnosti, že nám všetkým ide o rovnaké alebo aspoň podobné hodnoty.

Mechanizmy presadzovania a kontroly

Počas vývoja neustále zvažujeme dôsledky nášho produktu/služby. Znalostný modelár vytvára systém tak, aby bol pod plnou kontrolou človeka – ten má zodpovedať za to, aké znalosti sa systému zveria. V niektorých prípadoch je dokonca lepšie, aby chatbot neodpovedal vôbec (napr. odpovede na niektoré otázky v stavebníctve si vyžadujú odborný posudok, nie je teda možné, aby chatbot prevzal iniciatívu a na položenú otázku odpovedal).

Chatbot by nemal mať ambíciu nahradiť komunikáciu s človekom, má iba zastúpiť človeka vo veciach, v ktorých je to pre neho prínosné, napr. pri vykonávaní opakujúcich sa činností, ktoré ho oberajú o čas, energiu a tvorivosť.

Užívateľ by mal byť vopred upozornený na to, že diskutuje so strojom.

Zámer zákazníka jako pracovať s naším produktom by mal prejsť naším schválením. Vnímame to ako formu ochrany, aby náš produkt nebol použitý na nesprávne účely.

Naše riešenie tiež podlieha GDPR predpisom. Súkromné dáta sú chránené v cloude od najväčšieho providera – firmy Microsoft a nepoužívajú sa na iné účely (ako je reklama, predaj tretím stranám alebo trénovanie iných modelov).

Užívateľ pristupujúci k našim riešeniam má možnosť kedykoľvek požiadať systém o prepojenie na človeka, bez ohľadu na kanál, ktorý používa.

Naše riešenia sú minimálne invazívne. Tým, že napodobňujú správanie človeka, vstupujú do procesu, ktorý před tým spravoval človek. Systém tak dokáže kedykoľvek vrátiť kontrolu späť ľuďom. Je dobre popísaný, čo znamená, že popis procesu je graficky zaznamenaný a jeho správanie je možné zrekonštruovať aj z logov súborov. Vieme presne, čo systém robí a prečo.

Riešenie je monitorované inými systémami. Tie počas noci prechádzajú logy súborov a hľadajú anomálie. Priamo upozorňujú vývojársky tím alebo customer success tímy na potenciálne problémy či odporúčajú zmeny. Systém je monitorovaný aj funkčne, výpadok jednotlivých častí je hlásený, a tak je vždy jasné, ktoré časti systému nezodpovedajú.

Systém monitoruje interakciu s človekom. Eviduje, koľkokrát človek prešiel až „do konca“, alebo na ktorých častiach sa zasekol. Tieto časti sú hlásené na revíziu živým operátorom, aby sa zistilo, či robot aj naďalej spĺňa kritériá interakcie s ľuďmi alebo sa niečo v správaní ľudí zmenilo.

Systém beží v cloude, vďaka čomu majú klienti dostupné služby ako auto-scale, ktorý zmierňuje dopady hekerských útokov typu DDoS alebo im rovno zabráni. Cloud ponúka aj iné možnosti monitoringu infraštruktúry.

Systém je schopný detekovať spätnú väzbu. Tieto spätné väzby sú hlásené správcom systému. Je tiež možné monitorovať spokojnosť ľudí formou hodnotenia alebo NSZ nástrojov, ktoré sú zabudované priamo v riešení.

Tím vývojárov prešiel školením v oblasti dôveryhodnej AI vedeným externými odborníkmi na etiku a reguláciu AI. Otázkam udržateľnosti a spoločenských dopadov sa tak venuje automaticky pri návrhu riešení úloh, ktoré sa aktuálne spracovávajú. Nejasnosti alebo problémy (či prípadné nevalidné požiadavky klientov) sa riešia tak, že sa stretne náš tím s klientom a spoločne sa preberú problémy a návrhy na úpravu.

Všetky riešenia prechádzajú pred nasadením do prevádzky testom ľuďmi aj strojom.

Firma sa zúčastňuje výskumu v oblasti AI a svoje výsledky a postupy zverejňuje prostredníctvom konferencií či zborníkových článkov, ktoré publikuje na webových stránkach či firemnom profile LinkedIn.

V Xolution sa radi prepájame s neziskovými a výskumnými organizáciami, sme členmi rôznych inšitúcií a sme otvorení spolupráci s verejným a akademickým sektorom, pretože veríme, že demokraciu a slobodu je nutné budovať ako vo vnútri každého z nás a v našej spoločnosti, tak aj v interakcii s ďalšími organizáciami a spoločnosťami.

Vo firme stojíme za normami GDPR a AI Actu, a aj napriek ich byrokratickému aspektu vnímame ich praktický prínos a snahu predchádzať deštruktívnemu pôsobeniu niektorých vlastností digitálnych systémov. A preto je naším cieľom prakticky preukázať, že za každou automatizáciou a AI musí stáť človek a jeho dielo.. že digitálne systémy musia byť tvorené ľuďmi a pre ľudí.

Záver

Dodržiavanie tohto memoranda je záväzné pre členov firemných tímov a partnerov všetkých spoločností Xolution Group.

Odkazy