Jaké jsou etické problémy umělé inteligence?

A to je prave problem semantiky. Ak stroju nevysvetlis co je co, lebo to sam nevies, moze mat neviemaky vypocetny vykon a nepomoze mu to. 

Fyziologicky su si mozgy podobne, no len vo velmi hrubych rysoch, zakladne usporiadanie centier a sposob prenosu vzruchov. Ale inak je kazdy iny, lebo bol kazdy inak formovany po intelektualnej a emocnej stranke. 

Bohužial ja ti to tu nejdem vysvetlovat, ale nemas pravdu. Semantika je len naša interpretacia reality vzorov.

Su velmi podobne, nie su rozdielne. V podstate ai nezaujíma, ktoré centrum maš kde, pre nu bude dôležite kategorizovat vzory mozgov a tie vytvorie semantiku. A tie vzory budu podobne u kazdeho človeka sa stavim. Teda nebudem u kazdeho cloveka zacinat od nuly. Mne je jedno, čo si o tom myslia pesimisti, keby videli dnešnu AI ludia 200 rokov dozadu tak spadnu na zadok. To iste palti aj pre týchto ludi...

sahara, preto som uviedol priklad kde to ide.  Nevysvetlujeme AI co je pes,   ucime ju ako dieta. Ukazujeme mu psov a cakame kym sa sam nauci tento vzor rozoznavat.   Ani dietatu nemusime vysvetlovat co je pes,   a ani sami nevieme ako by sa to dalo vysvetlit.  

@robopolV tom ti budem oponovat. Ja sa zas stavim, ze tie vzorce su u kazdeho cloveka ine. A my ich nielenze nevieme rozkodovat, ale nevieme ich ani porovnat so vzorcami u inych ludi. Mozme sice vidiet drahu, ktorou sa siria vzruchy pri konkretnej myslienke, ale ak ta draha bude u kazdeho ina, potom co? Zase sa budeme musiet spolahnut len na to, co nam ten clovek povie, na co prave myslel. A tym sme zase naspat pri semantike. A ta je nedokonala. To je nase obmedzenie na ktore narazime, nie obmedzenie strojov. Nedokazeme efektivne predat informaciu. 

No tak si mysli, čo chces pravda je ta, že je rozpracovane ako sa bude učiť Ai z myšlienok, keby tam jednotny vzor nebol pre všetkých, teda podobny z určitého %, potom by to bolo uplne zbytočne, ale možno by ta mal Musk vypočut, aby si mu povedal, že to nejde, že sa snaží zbytočne, lebo ty vieš, že to nejde..

bolo by to velke prekvapenie ak by to bolo u kazdeho uplne ine. mame rovnake struktury, aktivuju sa rovnake oblasti pri myslienkach, atd. 

@tyso rovnake oblasti neznamena rovnake drahy. V rovnakej oblasti sa moze vytvorit nespocet myslienok a kazda bude mat inu drahu. A ak ju nevysledujes do detailu, nedostanes sa danej myslienke. Mozno to bude podobna myslienka a mozno aj uplne ina. Ako ked v slove zamenis pismeno. 

@robopolpises, ze sa AI bude ucit z myslienok. Ona sa nebude ucit. Bude len nieco vidiet, ukladat do pamate, triedit a skladat. Ale podla coho to bude skladat? My nerozumieme vlastnemu mozgu natolko aby sme dokazali napisat algoritmus, ktory by sme predali dalej AI. Preto ucenie z myslienok pokladam za nemozne. Budu tu dva svety, ktore sa priblizia, ale nespoja. Budu sa ovplyvnovat, ale nic viac.

Je tu este dolezita otazka, co vlastne chces AI naucit. Naucit ju, co je stol nie je tazke. Ukazat zopar fotiek napisat vseobecnu definiciu stola nie je tazke. Ale co s abstraktnymi pojmami? Tam su u ludi velke rozdiely v ich chapani. Ak ti staci, aby AI obrazne povedane rozumela, co je stol, potom dostanes len lepsie zastruhanu ceruzku, nie inteligenciu. Ako ju chces z myslienok ucit abstraktne pojmy? 

napisat definiciu nie je tazke? Tak len tak pokus: vies napisat definiciu ktora odlisi schody a rebrik? A bez problemov to zvladnu rozlisit male deti aj AI.  Dost pochybujem ze nase myslenie je zalozene na semantickych definiciach. 

pred 10 hodinami, tyso napísal:

 Dost pochybujem ze nase myslenie je zalozene na semantickych definiciach. 

to netvrdím. ak pominieme fyzikálnu stránku fungovania mozgu, samotný informačný obsah je zmesou obrazových, zvukových, čuchových atď. zložiek ku ktorým sa pripája sémantická zložka a to všetko je pevne spojené, doslova pomiešané. ak myslíš na konkrétny fyzický objekt, zároveň si predstavíš jeho podobu, zvuk, štruktúru povrchu,... a máš aj slovo, ktoré ho pomenúva. pri abstraktných pojmoch je to ťažšie, tam si viac odkázaný na sémantickú a emočnú zložku. a emócie sú kapitola sama o sebe.

a ak chceš definíciu, ktorá odlíši rebrík od schodov, zas vychádzaš zo sémantiky a z nepísanej dohody. môžeš určiť technické parametre pre schodisko a pre rebrík (sklon, výška stupňov, ich rozmer, konštrukčný systém,..), ale kde končí jedno a kde začína druhé je vecou dohody.

k rebriku:  nie je :)  skutocne aj male dieta vie ci su k lietadlu prisunute schody alebo rebrik.  Nemusis ho to ucit,  nemusis mu hovorit o parametroch.  Je to teda vzor, ktory rovnako nasli vsetci ludia.  Semnaticky pojem je nasa snaha to popisat v inej paradigme, nie v tej v ktorej pracuje mozog.   Neustale hladame vzory a ukladame si ich do hlavy. Preto si myslim ze ludske mozgy pracuju velmi podobne a tie vzory budeme schopni najst.

Ale kedze to zatial nevieme, tak  je to odhad.  A rad sa dozviem ako to je naozaj. 

Podľa mňa je hlavný rozdiel v architektúre mozgu a počítača. Aj najsofistikovanejšie algoritmy v počítači sa v konečnom dôsledku vykonávajú v dvojkovej sústave, operáciou sčítania. Počítače sú postavené tak, že ich hardware nedokáže nič viac, ako sčítať jednotky a nuly. Túto operáciu síce dokáže vykonať veľmi rýchlo, no ďalšia operácia sčítania nasleduje v už novom takte. A ak je taktov veľa, algoritmus sa spomaľuje. Aby sa čas skrátil, úloha sa rieši na paralelných procesoroch. To však zvyšuje nároky na energiu.

Elektrické potenciály v mozgu sa šíria v porovnaní s počítačom „slimačím tempom“. Napriek tomu, je mozog v mnohých úlohách rýchlejší. Architektúra mozgu je skôr podobná sekvenčným obvodom, v ktorých sa napríklad komparácia mnohých analógových stavov uskutoční v „jednom takte“. Nie je to síce kvantový počítač, ale niektoré znaky má podobné.

To nie len podla teba, architektura mozgu a neuronovej siete nie je to isté v zmysle, že siete mozgu sú oveľa hustejšie (spojov je v miliardach) a je koplexne zapojeny oproti hlbokej neuronovej sieti, ktorá má pár vrstiev.

To sú fakty, ale zvyšok čo píšeš poukazuje na neznalosť toho ako siete pracujú, to platí aj pre saharu. Siete nemajú algoritmus, teda porovnavas algoritmus, pričom tu ide o siete, nie heuristiku.

Napriek tomu, že umele siete majú o niekolko rádov menej spojov, aj architektúra vrstiev je úplne jednoduchá v porovnani s mozgom dokážu tieto siete fungovat lepšie, pretože sú zase rýchlejšie ako tie mozgové a teda ostava toto:

Ak sa pohneme k ďalšej zložittosti a komplexnosti umelých sieti ich efektivita a schopnosť riešiť ešte zložitejšie úlohy vzrastie, dôjde ku komplexným prejavom ako je to u človeka.

Robopol

Neurónová sieť nie je hardware, ale výpočtový model. Hardware neurónovej siete je bežný procesor, alebo sieť procesorov, simulujúcich vlastností biologických nervových systémov. Ak chceš prepojiť dva systémy, počítačový a biologický, musíš to spraviť najprv na hardwarovej úrovni. Potom musíš mať "protokol" ktorý správne interpretuje jednotlivé signály. A nakoniec musíš dokázať interpretovať informáciu, ktorá je v signáloch zakódovaná. Pokiaľ chceš riadiť končatinu, tak interpretácia signálov nie je až tak zložitá. Ak by sa jednalo o "inteligentnú" spoluprácu, na tej by sa zúčastňovali stovky miliónov neurónov. A nechápem, na čo by to bolo dobré, okrem náhrady poškodených funkcii v mozgu, alebo orgánov. Neurónová sieť nám poskytuje cenné služby, riadi stroje, vytvára modely, hľadá efektívne riešenia. Ale nemusíme si ju preto implantovať, aby sme boli výkonnejší, rýchlejší, alebo "múdrejší".        

Ved ja suhlasim, isteže to beži na hardware a je to vypočtový model, taky univerzalny algoritmus, ktorý používa aj ľudský mozog.

No a nerozumiem, však implementovat si ju nemusíš do tela, ten hardware moze byt mimo, ak zvladne komunikovat cez myslienky potom mas zariadenie, ktoré ti umožni robit veci, ktoré sam nedokážeš, to je to isté ako dnes s mobilom a pc, len to obsluhuješ ruakmi. Nerozumiem, čo tu rozporuješ, však kto nechce mat vyhodu ju mat nebude.

Tono,   technicke detaily vynechajme ( ciste bokom hw na Ai je dnes masivne paralelny,  idealne su graficke karty) .  Ale ked sa bavime k comu to je dobre, tak je to co robime odjakziva, vylepsujeme sa :).  Nastrojmi, vzdelanim atd.   Prve budu urcite jednoduche doplnky,   tak ako hovori sahara "zastruhane ceruzky",   ale to je len zaciatok.   A pojde to s "upgrade" naseho tela.  Organy, svaly, klby.   Toto vieme odhadnut,  ak to bude mozne tak sa bude diat.

Otazka je co bude druhy krok,  a to je podla mna "rozsirena realita",  doplnime do nasich zmyslov dalsie informacie, zlepsime bezne vnimanie, pridame dalsie zmysly a nove "koncatiny".   Toto je dnes realita pre "bojove prilby" ale ak to bude mozne, tak to vlozime do hlavy.  

Ale debata je co bude dalej, to su tie eticke otazky.  Viem len ze sa to nezastavi.

pred 7 minútami, robopol napísal:

ak zvladne komunikovat cez myslienky potom mas zariadenie, ktoré ti umožni robit veci, ktoré sam nedokážeš

Najbežnejším rozhraním je rozhranie, ktoré predstavujú naše zmysli, teda zrak, sluch, hmat. Preto používame monitor, myš, klávesnicu... Veď prostredníctvom nich už dávno komunikujeme a vymieňame si myšlienky. Ako inak si predstavuješ, že  "zvládneme komunikovať cez myslienky"? Predstavuješ si to tak, že pri komunikácii by sme už nepoužívali naše zmysli? 

pred 13 minútami, tyso napísal:

Otazka je co bude druhy krok,  a to je podla mna "rozsirena realita",  doplnime do nasich zmyslov dalsie informacie, zlepsime bezne vnimanie, pridame dalsie zmysly a nove "koncatiny".   Toto je dnes realita pre "bojove prilby" ale ak to bude mozne, tak to vlozime do hlavy.

A načo by sme to robili, keď to môžu robiť stroje za nás. Na to, aby si videl v infra oblasti si nepotrebuješ implantovať infra detektor. Ak chceš komunikovať v oblasti rádiových vĺn, tež si nepotrebuješ implantovať rf transceiver. 

tono, pretoze ludia co vyskusali bojove prilby a tie poskytuju len vzdialenu ukazku to popisuju ako transcendentálny zazitok.  Uz len  takato zmena meni nase vnimanie a to si nenechame utiect.

pri pisani si limitovani rýchlosťou ruk, aj rečové informácie su nepresné a pomalé, nakoniec narazíme na to, že aj naša mysel je pomala, ale kyborgovia su realny, dnes len v malom, ale možnosti do buducnosti sú. Ak chceš prežiť vo vysoko sofistikovanej spoločnosti, alebo vo vesmíre musíš sa stať kyborgom. To je trend. ty si myslíš, že to je zle? AI potrebujeme inak sa civilizacia po čase rozloži a nebude schopná riešiť problémy ani kolonizovať vesmír.

pred 25 minútami, robopol napísal:

AI potrebujeme inak sa civilizacia po čase rozloži a nebude schopná riešiť problémy ani kolonizovať vesmír.

riešenie tohto vidím skôr v riadenej autoevolúcii,  z môjho pohľadu je to priamejšia a "elegantnejšia" cesta, než spájanie mysle s AI. AI pri tom samozrejme môže pomôcť pri spracovaní dát.

čo je riadena autoevolucia? nejaky košaty, prázdny pojem? :)

urýchlená a usmernená evolúcia seba samých. stačí takto, Sheldon? sorry, že nemám takú slovnú zásobu ako ty, vyjadrujem sa ako viem, ale pokiaľ si z toho chceš robiť srandu, bez toho, aby si sa snažil pochopiť, o čom píšem, je to úbohé.

a to nepatri do evolucie, kedže sa tu bavíme o kyborgoch? ty si proti, hovoris to vyrieši riadena samoevolucia. Tak neviem čo kyborgovia na tom nesplnaju..No ale to nie je v slovnej zasobe ale v chapani..

sahara, na individualnej urovni ok. Ale sotva vieme taketo nieco spravit na spolocenskej urovni. Ani zakaz nebude riesenim.

@robopol kyborg do evolúcie nepatrí. rovnako ako zubná protéza.

@tyso nevravím, že sa má niečo zakazovať. ak budeme musieť pôjdeme cestou, ktorá bude schodná v tej danej chvíli. len som sa vyjadril, že usmernenie vlastnej evolúcie pokladám za elegantnejšie riešenie, než spájanie sa so strojom.