chatgpt chatGPT and GitHub Copilot

Ako napísala umelá neurónová sieť o sebe článok

https://robopol.sk/blog/chatgpt-agithubcopilot

Konečne som si nainštaloval OpenAI. Testoval som nejaké algoritmy v C++ a funguje prekvapujúco dobre. Škoda času, keď som to musel kedysi robiť sám, alebo neskôr, na internete hľadať na Stack Overflow. Je to vynikajúca pomoc, až na to, že ja už neprogramujem. 

Skúsil som konverzáciu a opäť veľmi fundované odpovede. Potom som zadal niečo z OTR, opäť fundované odpovede. Nadobudol som skoro pocit, že AI snáď už všetko dokáže. Tak som zadal konkrétnu úlohu, algoritmus na kovariantnú divergenciu zmiešaného tenzora energie hybnosti druhého stupňa. Z určitou škodoradosťou môžem konštatovať, že AI nepochopila ani to, na čo som sa pýtal, aj keď som otázky formuloval inak. Pritom ten algoritmus výpočtu je len rutinná matematická záležitosť, bez nutnosti uvažovať. V C++ je to na pár riadkov. Nie je to však frekventovaná téma a AI sa s podobnými problémami "bežne nestretáva". Takže každý si zatiaľ s AI "nepríde na to svoje".

open AI ti napr. vysvetli kód, pričom copilot ti rovno ponuka riešenia, keď programuješ, čo je veľká úspora času v tom, že tie rutinné veci ti sama napíše a ty ich len tabulátorom potvrdíš, lepšie ako kopírovať kusy kódu z netu.

Tebe sa môže hodiť aj preklad, pretože google translátor je oproti tomu slabý. Na matematické úlohy nie je stavaná ani trénovaná, nevie dobre ani násobilku :)

PS: keby si vedel dobre anglicky, tak ti s tou kovariantnou záležitosťou asi dá odpoveď, je trénovaná z veľkej časti na anglických textoch.

pred 2 hodinami, robopol napísal:

PS: keby si vedel dobre anglicky, tak ti s tou kovariantnou záležitosťou asi dá odpoveď, je trénovaná z veľkej časti na anglických textoch.

Správnu odpoveď som dostal, v tomto ohľade niet či AI vyčítať. Ale algoritmus už nie, preto, že ho AI na nete nenašla. Nie je to proste frekventovaná téma. Keby si hľadal tento algoritmus na internete, tiež ho pravdepodobne nenájdeš. Takéto úlohy nie sú "šité" pre AI. To nie je inteligencia, zostaviť algoritmus na výpočet nejakej matematickej rutiny. Matematické caddy to dokážu aj bez AI. Nakoniec tento algoritmus môžeš aplikovať na celkom nezmyselný výpočet, nijako nekorešpondujúci s realitou. Rovnako sa ukázalo, že hrať šach nie je otázkou inteligencie. Prednosťou AI je spracovávať obrovské množstvo dát, hľadať a využiť v nich súvislosti. V tomto ohľade je to nástroj, ktorý v určitých oblastiach prinesie revolúciu. 

Nedávno som sledoval film v ktorom demonštrovali sofistikovanú stratégiu, ako sa vírus snaží infikovať bunku, ako zneužíva funkcie, ktoré majú slúžiť bunke a ako sa imunitný systém bráni. To bola "inteligencia v priamom prenose", koncentrovaná v rozmeroch mikrometrov. To ma naozaj šokovalo, ak to porovnávam s tým, čo potrebujú v OpenAI, koľko serverov sietí a dát uložených na cloudoch.    

Tak to ber tak, že to nejak skôr začína, nahradí to google, veď AI ti da priamo odpoveď, či výsledok, bez toho aby si prehľadával celý internet. Ja myslím, že to je neskutočne dobrý nástroj a ZATIAL je zdarma. Napr. ten copilot si musíš platit 10 Eur/mesiac. Pre mňa je ale záhada ako to takto dokáže vo všetkých jazykoch, chápe kontext a poskytne ti odpoveď behom chvíľky, to ta baktéria nedokáže. To nie je inteligencia, ale pokus omyl ju "naučil" stratégiu.

A pravé to je inteligencia, hľadanie vzorov v chaose. Nič viac to nie je.

AI je lepšia ako človek už vo veľa veciach, ale tebe sa zdá, že človek je na tom lepšie, človek ma ale implementovanú motiváciu ciele a sám sa hýbe, žije. To AI nemá ale už skoro vo všetkých iných ohľadoch je lepšia a to už dnes, čo bude o 30 rokov?  Ja som to predpokladal už dávno par rokov dozadu, ty si to nebral vážne a dnes to tu uz je.

Google to chce nahodiť na domovskú stránku

https://www.techbyte.sk/2023/02/google-vyhladavac-nova-ai/

Čo sa týka samotného chatbotu

Jeden môj kamoš, keď bol naliaty, tak to testoval, vedelo to dávať fundované odpovede, ale ak išlo o zložité otázky technického rázu, tak to nevedelo konkrétne odpovedať.

Moje skúsenosti hovoria, že open AI je na tom rádovo lepšie ako iné siete. Copilot je iba slabý odvar, jeho využitie je, že sa snaží predikovať písaný kód. Nechápem čo robí ten microsoft, veď copilot zaostáva za chatGPT aj v doméne programovania. Jedna vec ma GPT poriadne serie a dúfam, že to vyriešia čoskoro. Nemá pamať, nechápem prečo tí coco.. :) keď už maju listy pre komunikáciu (záložky), aby si chatGPT pamätal súvislosti debaty na celej záložke danej témy, lebo to je úplne na.., keď mu musíš vysvetľovať po 20 odsekoch o čom sa vlastne bavíš s ním.

Chat GPT chápe aj zložité koncepty, problém je, že logické myslenie je zatiaľ slabé a robí dosť chýb, čo sa týka návrhu kódov, avšak dokáže to byť veľmi dobrý pomocník a často sa zasmejem, keď mi na začiatku vyká a potom začne po čase tykať. Dokonca sa tvári ako človek, že keď urobí chybu chce vedieť správny kód následne, čo je také milé a ľudské. Potom začne mudrovať, že sa poučí atď. Lenže problém je, že on sa neučí,  keby ani  tak by robil progres zo dňa na deň.

Ak by si Chat GPT mal pamätať priebeh rozhovoru, musel by dynamicky využívať aktuálne dáta. Nie je náhodou problém v tom, že dostupná Chat GPT pracuje len s dátami do roku 2022 ? Neskoršie platené, komerčné verzie, budú zrejme pracovať aj s aktuálnymi dátami.

Nie, tu ide o to, čo si mu písal v minulosti na danej karte a čo sa ho aktuálne pýtaš. Napr. zadal si mu nech urobí kód na tvoju požiadavku. Dobre napíše ti návrh. No napr. návrh nefunguje, tak riešite to, čo v kóde nefunguje, po čase ale on už ani nevie aký kód ti na začiatku navrhol. To je pekná sprostosť, to ako keby si sa bavil s niekým v krčme a ten si pamätá posledné dve vety. 

A áno trénovaná nie je každý deň,  natrénovali ju a dali do užívania, lenže ona sa musí trénovať na základe tej interakcie s ľuďmi teraz.

skúšal som obísť problém s pamäťou chatbota, úsmevne na to je príbeh, ktorý som zažil. Chatbot mi tvrdil, že vie čítať webové stránky aktuálne, že keby tam bolo celé vlákno komunikácie na nejak webstránke, problém by sa vyriešil. Tak som to skúsil a doteraz neviem, či naozaj dokáže čítať stránky, lebo mal rozdvojenú osobnosť, raz písal, že môže druhý krát, že nemôže. Vyzeralo to ako choroba, rozdvojená osobnosť :) Dokonca mi napísal, čo na danej stránke bolo, akurát si však navymýšľal, čo tam je, keď som mu napísal, že to nie je pravda, tvrdil následne, že sa mýlil a stránka sa nedala načítať. Kua, tak už aj chatbot klame, rýchlo sa naučil klamať :)  Ďalšia zábavná sitácia nastala, keď som videl chatGPt hrať sach so známym youtuberom, samozrejme youtuber asi dodnes nevie, že chatbot nemá pamäť a tak samozrejme sa tam dohadoval s chatbotom na nepovolených ťahoch, úsmevne: 

Klamať je tiež prejavom inteligencie, aj keď je to v rozpore s morálkou. 

už aj bing ma implementovaný chat gpt. Za seba môžem povedať, že v oblasti programovania je chat GPT dobrý pomocník už teraz, tak dúfajme, že nedostatky odstránia rýchlo. Nie je to žiaden "hype" ako tvrdí tyso, AI je už teraz žiadaná neúmerne vzhľadom na možnosti ponuky na trhu, ak odstránia nedostatky, tak pokojne sa vyhneme téme, či vie šimpanz vytvoriť niečo nové a lepšie ako AI.

On 3/4/2023 at 7:39 AM, Tono said:

Klamať je tiež prejavom inteligencie, aj keď je to v rozpore s morálkou. 

Ako sa to zoberie. Dokonca ani v Biblii nemas prikazanie "Nepoklames", ale "Neprerecies kriveho svetdectva proti bliznemu svojmu."

Pokial sa zena spyta, ci je tlsta, tak je skor v rozpore s moralkou povedat jej pravdu.

pred 1 hodinou, smiley napísal:

Pokial sa zena spyta, ci je tlsta, tak je skor v rozpore s moralkou povedat jej pravdu.

Kristus sa väčšinou vyjadroval v podobenstvách. Tučnej žene by možno odpovedal niečo v duchu "nie len chlebom je človek živý". Odpoveď v podobenstve má výhodu, lebo nie je adresovaná osobne a nevyvoláva averziu. Pokrytecká odpoveď je, že žena nie je tlstá, ale plnoštíhla.   

pred 2 hodinami, robopol napísal:

Za seba môžem povedať, že v oblasti programovania je chat GPT dobrý pomocník už teraz, tak dúfajme, že nedostatky odstránia rýchlo. 

Programovanie, na rozdiel od iných disciplín, je pre AI vďačnou témou, lebo program má logickú štruktúru. V bežnom jazyku nie sú vždy logické štruktúry. Napríklad pojem "prsné plutvy rýb"... Ryby nie sú cicavce a nemajú prsia. Pre nás je tento pojem rutinou, ale "chúďa" AI, ako jej vysvetliť tú našu hantírku? Pochopiť metaforu, alebo vtip, vyžaduje dosť inteligencie. Dokonca by som povedal, že vymyslieť dobrý vtip, vyžaduje maximum inteligencie. Zmysel pre humor by mohol byť aj kritériom stupňa inteligencie AI. To, že intelektuálny humor na Slovensku absentuje, je tiež prejavom nedostatku...     

Ja nepotrebujem, aby bola AI inteligentná ako človek, asi to nepotrebuje nikto. Potrebujeme však, aby a nachádzala riešenia a generovala ich rýchlo, je úplne jedno, či to generuje človek so zmyslom pre humor, alebo svojimi potrebami, alebo stroj. Stroj má však jednu veľkú výhodu je niekoľko rádov rýchlejší ako človek a dokáže operovať s takým množstvom dát, že v tom prekoná celé ľudstvo v sume. To sú neuveriteľné výhody a inteligencia človeka sa preceňuje a všeobecne zle chápe. 

Inak programovanie je ťažké pre AI (ty si myslíš, že to je doména AI), pretože programy sú veľmi komplexné veci, ak to nie je kód na par riadkov. Ladenie chýb je neuveriteľne problematická činnosť.

pred 29 minútami, robopol napísal:

Inak programovanie je ťažké pre AI (ty si myslíš, že to je doména AI), pretože programy sú veľmi komplexné veci, ak to nie je kód na par riadkov. Ladenie chýb je neuveriteľne problematická činnosť.

Program je len algoritmus, založený na presne definovaných pravidlách, ktoré vytvoril človek. Nemôže obsahovať niečo, ako intuíciu. Tá je ale nepostrádateľná, ak sa chceš dozvedieť niečo viac. V programe môžeš testovať obrovský počet riešení, ktoré nemajú fyzikálny zmysel. Ak máš dostatočný počet experimentálnych meraní, potom môžeš riešenie "napasovať" tak, aby matematické riešenie zodpovedalo experimentálnym výsledkom.  

Tono

nechcem nejak dehonestovat tvoje postrehy, ale dosť často používaš pojmy ako inteligencia, intuícia, že človek má viac ako stroj. Nuž sám vidíš, že neuronova siet dokáže "myslieť "skoro rovnako dobre ako človek. Vec sa má tak, že je to celé hlúposť o intuícii,  o "myslení", atď. Ak sa dokáže takto v 21 storočí priblížiť stroj človeku, čo bude v 23 storočí? Nedaj sa nachytať na nejaké chybné úvahy o strojoch a algoritmoch. Človek pracuje podobne ako ten stroj len to nechceš vidieť ja som ti to x krát písal.

Ja som stara skola, mam problemy aj klasickym "googlenim" elementarnych veci kodu: dost casto je tam napisane ako uplne pre debilkov a neraz vyhladavac ponukne stranku, kde je kod s mensimi alebo aj vacsimi chybami. Tieto ale mnohi programatori pouziju, lebo si to nasli a nerozumeju tomu.

AI pisuca kody mi pride ako toto hlupnutie posunute este o krok dalej. Ale mozno som uz len prilis stary to dohoto sveta, kde rozmyslanie nahradili lajky a patrim uz do srotu...

Nie je programovanie, ako programovanie. Napísať program na mikroprocesor, ktorý komunikuje s perifériami v reálnom čase, na báze prerušení, nie je len otázkou správneho kódu. Program je obyčajne "šitý" na konkrétny typ procesora a jeho rozhranie. Kritériom kvalitného programu je predovšetkým jeho blbovzdornosť a stabilita. Na to treba nie len programátorské skúsenosti a aj podrobnú znalosť čipov a hardwaru. Takáto úloha je dosť špecifická, pre zadanie do AI. Neviem, ako by si s tým AI teraz poradila? V budúcnosti je to samozrejme možné, ale keď takýto AI naprogramovaný HW nebude fungovať", nebudeš ho vedieť ani odladiť a nájsť chybu. Potom bude HW odlaďovať AI a my sa budeme len prizerať a veriť, že to urobila dobre?

To sa ale už deje, že zveríme naše životy AI, napríklad pri autonómnom vedení auta. Možno je to len otázka našich predsudkov. Rovnako si dnes sadáme do autobusu, vlaku, lietadla a musíme len fatálne veriť v schopnosti vodiča, ktorého často ani nepoznáme. 

8 hours ago, Tono said:

To sa ale už deje, že zveríme naše životy AI, napríklad pri autonómnom vedení auta. Možno je to len otázka našich predsudkov.

Som pocul, ze asi najvacsim problem by mohol pravny: AI by totiz v urcitych vynimocnych situaciach rozhodovala koho zabije a koho necha zit - ak nastane kolizia, pri ktorej nemozno zachranit vsetkych. Ak by padlo obvinenie zo zabitia, kto bude hnany na zodpovednost?

Vseobecne za najvacsi problem AI povazujem hodnotenie. Pretoze ziadna AI nebude fungovat sama od seba, vzdy musi mat v procese ucenia spatnu vazbu, ktora vyhodnoti nakolko to bolo dobre/zle. (Ne)kvalita hodnotenia pritom bude urcovat (ne)kvalitu rozhodovania AI.

My to mame zadratovane napevno, co chceme:   sex (opacne, rovnako pohlavie), podobne uspokojovanie svojich ostatnych potrieb (jedlo, spanok, teplo), tuzbu po moci a presadzovania sa na ukor ostatnych, ale aj trochu altruizmu, pretoze je to evolucne vyhodne.

Az by nejaka AI dosiahla az uroven bytosti, tak jej naprogramujeme, co budeme chciet. Napriklad ak to bude tuzba sluzit, tak sa nikdy nebude snazit ziskat moc. Ale to uz je eticka otazka, ci mame pravo hrat sa na bohov.

Už je verzia GPT 4, ma vraj mať menej "halucinácii" a má vedieť pracovať aj s obrázkami. Ja som skúšal implementáciu v Bingu, kde vie prehľadávať aktuálne stránky apod. Niečo mi referovala, ale zas si navymýšľala veci, ktoré tam nie su, tak som jej napísal, normálne sa akože "urazila" a ukončila komunikáciu :) To sú mi veci...

chat GPT: V oblasti programovania, ti vie tak poradiť, alebo urobiť funkcie, ktoré sú bežné, výhoda je v tom, že pozná rôzne moduly tretích strán, tak netreba všetko programovať. Avšak kameň úrazu je použitie tých modulov, to nezvláda dobre. Niekedy teda pomôže, častokrat ťa akurát naserie, lebo generuje opravy svojich návrhov, ktoré nie su valídne skoro nikdy.

Inteligence GPT-4 si najala člověka kvůli překonání testu CAPTCHA. A lhala mu

Kam ten svet speje...

To ma inac napadlo, ze dobry sposob na lamanie CAPTCHA je mat svoju vlastnu sluzbu, kde pod nejakou zamienkou vyzadaujes od uzivatelov autentifikaciu, ktora sa potom pouzije na prelomenie.

Aby mala AI aj právnu subjektivitu v podnikaní, alebo na burze, najme si z nás "biele kone".

Konečne prichádza copilot- x postavený na GPT-4

Netreba zabudat, ze ChatGPT v skutocnosti nerozmysla, iba haluzi. Pekny priklad je v diskusii Osla pod clankom o dalsej gravitacnej baterii , kde sa odhadovala cena stavby (mnozstvo potrebneho betonu) pri kapacite  100 MWh a  predpokladanej vyske 120 metrov, ktoru dal niekto vypocitat ChatGPT a bez zkontrolovania to zverejnil:

Quote

tech 300tis tun mi prijde prehnanych - chatgpt rika, ze to ma byt 9tis tun
("Zvednutí závaží do výšky 120 metrů s využitím 100 MWh energie znamená, že závaží musí mít hmotnost přibližně 9,2 milionů kilogramů. Tento výpočet je založen na fyzikálním vztahu pro potenciální energii, která se rovná hmotnosti závaží krát gravitační zrychlení krát výška. Gravitační zrychlení na Zemi je přibližně 9,8 m/s². Potenciální energie se tedy rovná 9,2 milionů kg * 9,8 m/s² * 120 m = 100 MWh. Je důležité poznamenat, že tento výpočet nezohledňuje účinnost zařízení použitého k zvednutí závaží ani jiné faktory, které by mohly ovlivnit spotřebu energie.")

https://www.osel.cz/13017-energy-vault-stavi-u-sanghaje-prvni-gravitacni-baterii-pro-bezny-provoz.html?id_prispevku=244157#poradna_kotva

Obavam sa, ze ludia casom stratia schopnost riesit aj jednoduche ulohy a nechaju za seba rozmyslat ChatGPT...