Jump to content
Sign in to follow this  
electric blue

Jaké jsou etické problémy umělé inteligence?

Recommended Posts

electric blue
Citát

88% Európanov si myslí, ze nad umelou inteligenciou a robotikou potrebujeme riadny dohlad. 61% vníma tieto technológie velmi pozitívne. https://www.europarl.europa.eu/news/sk/headlines/society/20200827STO85804/umela-inteligencia-definicia-a-vyuzitie

 

 

P.s. strašne sa mi nechcelo zakladat novy topic, ale čo uz . 

Share this post


Link to post
Share on other sites
secretka

Téma, ktorá sa dotýka umelého oplodnenia tu už je

Umele oplodnenie – je neetické?

https://www.freespace.sk/tema/4941-umelé-oplodnenie-je-neetické/page/6/

 

ups ... ospravedlňujem sa, tu som sa teda riadne kopla :ermm:

Medzi slovami umelé oplodnenieumelé inteligencia je naozaj velikánsky rozdiel /a nielen medzi slovami/.

Ešte raz - pardon

 

Share this post


Link to post
Share on other sites
robopol

Potrebujeme dohľad, pretože mysliaca AI nás môže jednoducho zavalcovat. Bude schopnejšia, kreativnejšia, rychlejšia. No potrebuje ciel, teda dôležité v tomto bode je, aby si nemohla prepisovať primárne jadro, tak ako si to nemôže prepísať ani človek.

Elon Musk sa obáva umelej inteligencie, zároveň je presvedčený, že veľmi skoro vznikne. Uprimne povedaná vedomá inteligencia nás nebude chciet primárne zničiť, no bude chcieť si určovať svoje ciele. My bude voči nej primitívne bytosti, ktoré však majú evolučné skúsenosti, ktoré ona mať nebude.

Ja myslím, že nie sme ďaleko skôr od prepojenie umelých neuronových sieti s naším mozgom, ako nadstavby, mali by sme sa skôr sústrediť na tento výskum, ako vytvárať samostatnú entitu, ktorá nás nepotrebuje, no záleží od primárnych cieľov vložených do AI.

  • Thanks 1
  • Upvote 1

Share this post


Link to post
Share on other sites
electric blue

lepšie by to nikto nesformuloval . 

Share this post


Link to post
Share on other sites
electric blue
Citát

Genevieve Bell: 6 veľkých etických otázok o budúcnosti AI

 

Poviem vám príbeh o umelej inteligencii. V Sydney sa nachádza budova na ulici Bligh Street 1. Je v ňom veľa vládnych bytov a rušných ľudí. Zvonku to vyzerá ako niečo z americkej sci-fi: všetko nablýskané sklo a zakrivené čiary a kúsok oranžovej sochy. Vo vnútri má na prízemí vynikajúcu kávu a moje obľúbené výťahy v Sydney. Sú nádherné; vyzerajú takmer ako živé. A ukázalo sa, že som fascinovaný výťahmi. Z mnohých dôvodov.

Ale pretože výťahy sú jedným z miest, kde môžete vidieť budúcnosť. V 21. storočí sú výťahy zaujímavé, pretože sú jedným z prvých miest, ktorých sa vás AI dotkne bez toho, aby ste vôbec vedeli, že sa to stalo. V mnohých budovách po celom svete používajú výťahy sadu algoritmov. Forma protoartificial inteligencie. To znamená, že skôr ako vyjdete k výťahu a stlačíte tlačidlo, predpokladá sa, že ste tam. Už to prestavuje všetky vozne. Stále idete dole, aby ste ušetrili energiu a vedeli, kde bude premávka. V okamihu, keď ste skutočne stlačili tlačidlo, ste už súčasťou celého systému, ktorý dáva zmysel ľuďom a životnému prostrediu a budove a vybudovanému svetu.

Viem, že keď hovoríme o AI, často hovoríme o svete robotov. Za posledných 100 rokov je pre naše predstavy ľahké zamestnať sa sci-fi. Hovorím AI a myslíte si „Terminátor“. Pre nás je to niekde ťažšie, keď urobíme spojenie medzi AI a vybudovaným svetom. Realita je však taká, že AI je už všade okolo nás. A na mnohých miestach. Je to v budovách a v systémoch. Viac ako 200 rokov industrializácie naznačuje, že AI si pomerne ľahko nájde cestu k systémovej škále. Nakoniec, z jedného rozprávania o tejto histórii vyplýva, že stačí nájsť technológiu, dosiahnuť rozsah a nasledovať bude revolúcia. Príbeh mechanizácie, automatizácie a digitalizácie poukazuje na úlohu technológie a jej dôležitosť. Vďaka príbehom technologickej transformácie sa zdá, že škála je normálna. Alebo očakávané. A stabilný. A niekedy dokonca predvídateľná. Zameriava sa však tiež priamo na technológiu a technologické zmeny. Ale verím, že škálovanie technológie a budovanie systému si vyžaduje niečo viac.

Inštitút 3Ai sme založili na Austrálskej národnej univerzite v septembri 2017. Má jednu klamne jednoduchú misiu: založiť nové odvetvie inžinierstva, aby sa AI mohla bezpečne, udržateľne a zodpovedne merať. Ako si však v 21. storočí vybudovať nové odvetvie strojárstva? Učíme to existenciu prostredníctvom experimentálneho vzdelávacieho programu. Skúmame to na existencii s tak rozmanitými miestami, ako je Shakespearovo rodisko, Veľký bariérový útes, nehovoriac o jednej z najväčších austrálskych autonómnych baní. A teoretizujeme to tak, aby existovali, pričom venujeme pozornosť zložitosti kybernetických systémov. Pracujeme na tom, aby sme vytvorili niečo nové a niečo užitočné. Niečo, čo vytvorí ďalšiu generáciu kritických mysliteľov a kritických činiteľov. A to všetko robíme vďaka bohatšiemu porozumeniu mnohých minulosti a mnohých príbehov umelej inteligencie. A spoluprácou a kolektívom prostredníctvom výučby, výskumu a angažovanosti a zameraním sa rovnako na rámcovanie otázok ako na riešenie problémov. Nerobíme ani jednu AI, ale robíme možnosti pre mnohých. A aktívne pracujeme na dekolonizácii našich fantázií a na zostavení učebných osnov a pedagogiky, ktoré nechávajú priestor pre množstvo rôznych rozhovorov a možností. Robíme a prerábame. A viem, že vždy pracujeme.

Ale tu je malý pohľad na to, ako sa staviame k problému škálovania budúcnosti. Začneme tým, že sa uistíme, že máme zakotvené v našej vlastnej histórii. V decembri 2018 som sa vydal do mesta Brewarrina na hranici s Novým Južným Walesom a Queenslandom. Toto miesto bolo miestom stretnutí domorodých obyvateľov, pre rôzne skupiny, aby sa zhromaždili, mali obrady, stretnutia, boli spolu. Tam na rieke Barwon sa nachádza skupina rybích prehrádzok, ktoré sú jedným z najstarších a najväčších systémov domorodých pascí na ryby v Austrálii. Tento systém sa skladá z 1,8 kilometra kamenných stien v tvare série rybárskych sietí s nápisom „My“ smerujúcich dole nad rieku, ktorý umožňuje uväznenie rýb v rôznych výškach vody. Sú to tiež perá na držanie rýb s rôzne vysokými stenami na uskladnenie, určené na zmenu spôsobu pohybu vody, na uskladnenie veľkých rýb a malých rýb a na udržanie týchto rýb v studenej a čistej tečúcej vode. Tento systém pascí na ryby predstavoval spôsob, ako zabezpečiť, aby ste mohli nakŕmiť ľudí, ktorí sa tam zhromažďovali, na mieste, ktoré bolo stretnutím riek aj stretnutím kultúr.

Nejde o skaly alebo dokonca o pasce ako také. Je to o systéme, ktorý tieto pasce vytvorili. Jeden, ktorý zahŕňa technické znalosti, kultúrne znalosti a ekologické znalosti. Tento systém je starý. Niektorí archeológovia si myslia, že je to až 40 000 rokov. Naposledy sme zaznamenali jeho použitie v devätnástich dospievajúcich. Má pozoruhodnú životnosť a neuveriteľný rozsah. A je to pre mňa inšpirácia. A fotografia jezu je na našich stenách tu v ústave, aby nám pripomínala prísľub a výzvu vybudovať niečo zmysluplné. A pripomínať nám, že budujeme systémy na mieste, kde ľudia vytvorili systémy a udržujú ich rovnaké po celé generácie. Nie je to iba naša história, je to aj naše dedičstvo, keď sa snažíme založiť nové odvetvie strojárstva. Aby sme nadviazali na toto dedičstvo a náš zmysel pre cieľ, myslím si, že potrebujeme jasný rámec pre kladenie otázok o budúcnosti. Otázky, na ktoré nie sú pripravené alebo ľahké odpovede.

Jedná sa o kladenie otázok. Veríme, že musíte ísť nad rámec tradičného prístupu k riešeniu problémov, ku zložitejšiemu v otázkach kladenia otázok a rámcovania otázok. Pretože tým otvárate všetky druhy nových možností a nových výziev. Momentálne pre mňa existuje šesť veľkých otázok, ktoré rámcujú náš prístup k bezpečnému, udržateľnému a zodpovednému zväčšovaniu AI. Otázky týkajúce sa autonómie, zastúpenia, vierohodnosti, ukazovateľov, rozhraní a zámernosti. Prvá otázka, ktorú si položíme, je jednoduchá. Je systém autonómny? Spomeňte si na ten výťah na ulici Bligh Street. Realita je jedného dňa taká, že výťah môže byť autonómny.

To znamená, že bude môcť konať bez toho, aby mu bolo povedané, aby konal. Nie je to však úplne autonómne, však? Nemôže opustiť tú budovu na ulici Bligh Street a čudovať sa do Circular Quay na pivo. Ide to hore-dole, to je všetko. Ale robí to samo. V tomto zmysle je to autonómne. Druhá otázka, ktorú si kladieme: má tento systém agentúru? Má tento systém kontroly a obmedzenia, ktoré niekde žijú, ktoré mu bránia robiť určité druhy vecí za určitých podmienok. Realita s výťahmi, to je úplne tak. Pomysli na akýkoľvek výťah, v ktorom si bol. V kabíne výťahu je červený otvor na kľúče, do ktorého môže osoba záchrannej služby strčiť kľúč a prepísať celý systém. Čo sa však stane, keď je tento systém poháňaný umelou inteligenciou? Kde býva kľúč? Je to fyzický kľúč, je to digitálny kľúč? Kto to môže používať? To sú ľudia na pohotovosti? A ako by ste vedeli, či sa to deje? Ako by sa vám to všetko prejavilo vo výťahu? Treťou otázkou, ktorú si kladieme, je, čo si myslíme o uistení. Čo si myslíme o všetkých jeho prvkoch: bezpečnosť, ochrana, dôvera, riziko, zodpovednosť, ovládateľnosť, vysvetliteľnosť, etika, verejná politika, právo, regulácia? A ako by sme vám povedali, že systém bol bezpečný a fungoval? Štvrtá otázka, ktorú si kladieme, je, aké by boli naše rozhrania s týmito systémami riadenými umelou inteligenciou. Budeme sa s nimi rozprávať? Budú sa s nami rozprávať, budú sa rozprávať medzi sebou? A čo to bude znamenať, že celý rad technológií, ktoré poznáme, sa niektorí z nás celý život zrazu správajú úplne inak? Výťahy, autá, elektrická sieť, semafory, veci vo vašej domácnosti. Piata otázka pre tieto systémy poháňané umelou inteligenciou: Aké budú ukazovatele, ktoré ukážu, že fungujú dobre?

 

Dvesto rokov priemyselnej revolúcie nám hovorí, že dva najdôležitejšie spôsoby, ako myslieť na dobrý systém, sú produktivita a efektívnosť. V 21. storočí to možno budete chcieť trochu rozšíriť. Je systém udržateľný, je bezpečný, je zodpovedný? Kto môže za nás súdiť tieto veci? Používatelia systémov by chceli pochopiť, ako sú tieto veci regulované, riadené a budované.

A potom je tu posledná, možno najkritickejšia otázka, ktorú musíte od týchto nových systémov umelej inteligencie položiť. Aký je jej zámer? Na čo je navrhnutý systém a kto povedal, že to bol dobrý nápad? Alebo inak povedané, aký je svet, ktorý tento systém buduje, ako si tento svet predstavuje a aký je jeho vzťah k svetu, v ktorom dnes žijeme? Kto sa stane súčasťou tejto konverzácie? Kto to môže formulovať? Ako je to zarámované a predstaviteľné?

 

Na tieto otázky neexistujú jednoduché odpovede. Namiesto toho rámcujú, čo je možné a čo si musíme predstaviť, navrhnúť, postaviť, regulovať a dokonca vyradiť z prevádzky. Nasmerujú nás správnymi smermi a pomôžu nám na ceste k založeniu nového odvetvia strojárstva. Kritické otázky však nestačia. Potrebujete tiež spôsob, ako spojiť všetky tieto otázky. Pre nás v inštitúte nás tiež skutočne zaujíma, ako myslieť na AI ako na systém a kde a ako vytýčiť hranice tohto systému. A tí sa práve teraz cítia ako obzvlášť dôležité veci. Tu sme ovplyvnení prácou, ktorá sa začala už v 40. rokoch. V roku 1944 zvolal matematik Norbert Wiener spolu s antropológmi Gregorym Batesonom a Margaret Mead sériu rozhovorov, ktoré sa stali známymi ako Macyské konferencie o kybernetike. Nakoniec sa v rokoch 1946 až 1953 uskutočnilo desať konferencií pod hlavičkou kybernetiky. Podľa definície Norberta Wienera sa kybernetika snažila „vyvinúť jazyk a techniky, ktoré nám umožnia skutočne zaútočiť na problém riadenia a komunikácie v pokročilých výpočtových technológiách“.

Kybernetika presvedčivo tvrdila, že treba myslieť na vzťah medzi ľuďmi, počítačmi a širším ekologickým svetom. Museli ste o nich uvažovať ako o celostnom systéme. Účastníci konferencie Macy sa zaoberali tým, ako pracuje myseľ, predstavami o inteligencii a učení a o úlohe technológie v našej budúcnosti. Bohužiaľ, na rozhovory, ktoré sa začali konferenciou Macy, sa často zabúda, keď sa hovorí o AI. Ale pre mňa je tu niečo skutočne dôležité, aby som sa kultivoval v myšlienke systému, ktorý musí vyhovovať kultúre, technike a životnému prostrediu. V ústave je tento druh systémového myslenia jadrom našej práce. Za posledné tri roky sa tu ku mne na tejto bláznivej ceste za prácou pripojila celá zbierka úžasných ľudí. Náš personál zahŕňa antropológov, systémových a environmentálnych technikov a počítačových vedcov, ako aj jadrového fyzika, oceneného fotografického novinára a najmenej jedného odborníka na politiku a normy. Je to omamná zmes. A rozsah skúseností a odborných znalostí je silný, rovnako ako konflikty a výzvy. Rozmanitosť si vyžaduje neustálu ochotu hľadať spôsoby, ako viesť ľudí v konverzácii. A trochu sa venovať konfliktu. Skoro sme tiež vypracovali, že spôsob, ako vybudovať nový spôsob konania, si bude vyžadovať odhodlanie priviesť ostatných na rovnakú cestu s nami.

Takže sme veľmi rýchlo otvorili dvere vzdelávaciemu programu a náš prvý magisterský program sme zahájili v roku 2018. Odvtedy sme mali dve kohorty študentov magisterského štúdia a jednu kohortu doktorandov. Naši študenti pochádzajú z celého sveta a z celého života. Austrália, Nový Zéland, Nigéria, Nepál, Mexiko, India, Spojené štáty. A pohybujú sa vo veku od 23 do 60 rokov. Mali rôzne vzdelanie v matematike a hudbe, politike a výkonnosti, systémoch a štandardoch, architektúre a umení. Predtým, ako sa k nám pripojili k inštitútu, riadili spoločnosti, pracovali pre vládu, slúžili v armáde, učili na strednej škole a riadili umelecké organizácie. Boli dobrodruhovia a navzájom sa angažovali a budovali niečo nové. A naozaj, čo viac si môžete priať?

Pretože hoci som strávil 20 rokov v Silicon Valley a poznám príbehy o osamelom vynálezcovi a ceste hrdinu, poznám aj realitu. Že to nikdy nie je len cesta hrdinu. Vždy je to súbor ľudí, ktorí majú spoločný zmysel pre cieľ a ktorí môžu zmeniť svet. Kde teda začať?

Myslím, že začínate tam, kde stojíte. A pre mňa to znamená, že chcem poďakovať tradičným vlastníkom pôdy, na ktorej stojím. Ľudia Ngunnawal a Ngambri, toto je ich zem, nikdy postúpená, vždy posvätná. A vzdávam úctu starším, minulým i súčasným, tohto miesta. Tiež uznávam, že sa dnes zhromažďujeme na mnohých ďalších miestach, a vzdávam úctu tradičným majiteľom a starším všetkých týchto miest. Znamená pre mňa veľa povedať tieto slová a zaoberať sa tým, čo znamenajú a signalizujú. A nezabudnite, že žijeme v krajine, ktorá je nepretržite okupovaná najmenej 60 000 rokov. Domorodí obyvatelia tu budovali svety, budovali sociálne systémy, budovali technológie. Postavili spôsoby, ako toto miesto spravovať a pozoruhodne ho spravovať počas zdĺhavého časového obdobia. A každý okamih, keď každý z nás stojí na javisku ako Austrálčan, či už doma alebo v zahraničí, nesie so sebou kvôli tejto histórii výsadu a zodpovednosť. A nie je to iba história. Je to tiež neuveriteľne bohatý súbor zdrojov, svetonázorov a znalostí. A malo by prechádzať všetkými našimi kosťami a mal by to byť príbeh, ktorý vždy rozprávame. V konečnom dôsledku ide o to, myslieť inak, klásť rôzne druhy otázok, pozerať sa holisticky na svet a systémy a nájsť ďalších ľudí, ktorí chcú byť na tejto ceste s vami. Pretože pre mňa jediný spôsob, ako skutočne premýšľať o budúcnosti a rozsahu, je vždy to robiť kolektívne. A pretože pre mňa je pojem človek v ňom spoločne jedným zo spôsobov, ako môžeme uvažovať o veciach, ktoré sú zodpovedné, bezpečné a nakoniec udržateľné.

 

https://ted2srt.org/talks/genevieve_bell_6_big_ethical_questions_about_the_future_of_ai

 

 

Share this post


Link to post
Share on other sites

Create an account or sign in to comment

You need to be a member in order to leave a comment

Create an account

Sign up for a new account in our community. It's easy!

Register a new account

Sign in

Already have an account? Sign in here.

Sign In Now
Sign in to follow this  

×
×
  • Create New...