Az olvasottság nem publikus.

Filófaktor

A gépek lázadása, avagy mit mutat meg a Turing teszt

A gépek lázadása, avagy mit mutat meg a Turing teszt

A héten bejárta a világot az állítólag történelmi jelentőségű esemény (vagy valami olyasmi) híre: egy számítógép átment a híres-neves Turing teszten. Sokak szerint ez az esemény mérföldkő a mesterséges intelligencia kutatás történetében. Ugyan pár hónapja már írtam erről a témáról, úgy gondoltam, nem mehetek el szó nélkül emellett az esemény mellett. Nézzük tehát meg, mekkora jelentősége is van valójában ennek az egész Turing tesztes balhénak.

Ahogy arról a korábbi, mesterséges intelligenciáról szóló posztban is írtam, a Turing teszt gondolata Alan Turing matematikus 1950-es cikkéből származik. Ebben az írásában Turing azt az álláspontot védelmezte, hogy ha egy számítógép sikeresen képes meggyőzni minket arról, hogy ő egy értelmes ember és nem egy gép, akkor semmi akadálya annak, hogy intelligensnek gondoljuk.

A mostani chatbot a bírák egyharmadát győzte meg arról, hogy ő egy ukrán kisfiú. Vajon azt jelenti ez, hogy eljött a mesterséges intelligenciák kora? Vajon a Eugene Goostman névre hallgató szoftver emberi értelemmel rendelkezik? Vagy ha ő nem is, vajon már csak egy lépésre vagyunk a valódi mesterséges intelligencia feltalálásától? Vajon holnap öntudatra ébred a Skynet? Nos, nem feltétlenül.

1. Attól még, hogy úgy csinál, mintha intelligens volna, nem feltétlenül az

Az első ellenvetés a Turing teszt, mint a mesterséges intelligencia mérésének egy módja ellen elég egyszerű. Abból, hogy valami intelligensnek tűnik, még nem biztos, hogy az. Ahogy a mondás tartja, nem minden arany, ami fénylik. Pláne nem arany az, ami 10-ből csak 3 aranybányászt ver át. A bírák 30%-ának meggyőzése nem elsöprő teljesítmény a chatbot részéről. De még ha mindenki meg is lett volna győzve, az is csak azt jelentené, hogy a gép úgy tud csinálni, mintha intelligens volna, nem azt, hogy, tényleg intelligens.

Fontos megjegyezni, hogy maga Turing sem gondolta, hogy a teszten való megfelelésből kétség kívül következik a mesterséges intelligencia meglétre. Inkább úgy vélte, hogy az egyik valószínűsíti a másikat. Elvégre a többi ember esetében sem tudjuk máshonnan, hogy intelligensek, mint a megnyilvánulásaikból. Ha a többi embernél a megfelelő megnyilvánulásokat az intelligencia jeleként fogjuk fel, akkor vajon a számítógép esetében miért ne járhatnánk el így?

Weakness of Turing test 1.svg

2. A beszéd szimuláció különben sem elégséges jele az intelligenciának

Valóban, az intelligencia kétségkívül több, mint az értelmes beszéd. Nagyon is előfordulhat, hogy valami megadott szabályok alapján össze tud rakni értelmes mondatokat, mégsem működik semmiféle értelmes, mechanizmus a művelet mögött, a dolog maga nem érti, mit is csinál. Ezt a lehetőséget hivatott megmutatni a híres Kínai szoba gondolatkísérlet, amiről itt és az előző M.I.-s cikkben is olvashattok.

Viszont érdemes azt is megjegyezni, hogy az értelmes beszéd nem egy nagyon rossz útjelző az intelligenciához. Elvégre ez egy meglehetősen komplex kognitív folyamat, amit egyáltalán nem könnyű még csak jól szimulálni sem. Nem beszélve arról, hogy nem elég értelmes mondatokat összerakni ahhoz, hogy meggyőzzünk valakit arról, értelmes emberek vagyunk. Ehhez megfelelően kell következtetünk, nem mondhatunk magunknak ellent folyton, meg kell tudnunk oldani alapvető logikai problémákat, ehhez pedig nem elég, ha jól tudjuk formálni a mondatokat.

3. Különben is, mi az az intelligencia

A filozófiát igazából ezekért a kérdésekért szeretjük, már csak azért is, mert ezek a legnehezebbek. Ha jól megnézzük, a mesterséges intelligencia kutatók egy rakás dolgot értenek intelligencián, például a képességet a következtetésre, probléma megoldásra, tanulásra, és így tovább. Ezek mindegyike nyilván nem tesztelhető hatékonyan egy félórás csevegés keretein belül. Tehát jogosan vethetné fel valaki, hogy a Turing teszt egyáltalán nem alkalmas az intelligencia mérésére.

Ez persze csak technikai ellenvetés, de azt hiszem, bujkál itt valami komolyabb elgondolás is. Valamiért az intelligencia fogalmát, aminek ezeknek a gépeknek meg kellene felelni, az emberi intelligencián modellezzük. Valamiért az az eszményképünk, hogy egy gépi intelligencia akkor jó, akkor valós, ha olyan, mint az emberi, sőt, ha meg sem tudjuk megkülönböztetni az emberitől.

De miért gondolnánk, hogy egy gépi intelligenciának szükségképpen ilyennek kell lennie? Elvégre egy számítógép nyilván egészen más tervezési alapelvek mentén épül fel, mint egy emberi lény (már ha utóbbinál vannak ilyenek). A számítógépekben manapság van egy központi számítási egység (processzor), az emberi agyban legjobb tudomásom szerint nincs. A számítógépek sokkal több adatot sokkal gyorsabban kezelnek, mint mi emberek. Miért gondoljuk ilyen különbségek megléte mellett, hogy az intelligencia standardját az ő számukra is mi állítjuk?

Mára ennyi gondolatébresztést gondoltam a Turing tesztről, a végső igazságokat egy más alkalommal mondom el, de ha gondoljátok, szóljatok hozzá, és talán több is kiderül.

 

43 komment filozófia mesterséges intelligencia elmefilozófia Turing teszt Tovább
A gépek lázadása, avagy mit mutat meg a Turing teszt Tovább
Facebook Tumblr Tweet Pinterest Tetszik
0
43 komment

Ajánlott bejegyzések:

  • Tetteink következménye Tetteink következménye
  • Mikor tudunk valamit? Mikor tudunk valamit?
  • Korlátozható-e a szólásszabadság? Korlátozható-e a szólásszabadság?
  • "Te vagy a hülye", "Nem, te vagy a hülye" - avagy egyet nem értés és filozófia "Te vagy a hülye", "Nem, te vagy a hülye" - avagy egyet nem értés és filozófia
  • Kié a hatalom? Kié a hatalom?

A bejegyzés trackback címe:

https://filofaktor.blog.hu/api/trackback/id/tr516291684

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

szemet 2014.06.13. 08:51:37

"akkor jó, akkor valós, ha olyan, mint az emberi, sőt, ha meg sem tudjuk megkülönböztetni az emberitől"

Attól függ mi vele a cél. Ahogy olvasom a médiát erről a hírről, a legtöbbször átterelődnek a cikkek erre a hírre: www.technologyreview.com/view/527746/how-advanced-socialbots-have-infiltrated-twitter/

Azon aggódnak, hogy a nem detektált twitter (és egyéb) chatbotok hadseregével mennyire lehet (majd?) manipulálni a közvéleményt (vagy legalább kialakítani egy hamis "látszólagos" közvéleményt - ami persze eredményezhet valós közhangulatváltást is)

Ilyenfajta manipulációhoz pont ennyi kell - az emberi (és a gépi) detektálás átverése.
Válasz erre 

ipartelep · http://ipartelep.blog.hu 2014.06.13. 11:07:44

Hogy az MI-vel mi a cél, abba nem divat belegondolni. Persze, olyan kisebb célokat tételeznek vele, hogy jól lehet majd használni a gazdaságban, a termelésben, vagy akár a tudományos kutatásban is (lehet küldeni más csillagrendszerekbe - nem kell neki levegő, meg kaja, csak energia). No de mi lesz ebből az egészből?
Persze, most még nem fenyegető az ügy. becslésem szerint, igazi MI (ember szintű, tehát nem olyan, amely a nagyon korlátos Turing tesztnek megfelel (az piskóta), hanem olyan, amely tényleg, minden szempontból annyira értelmes, mint egy ember), több 100, vagy akár 1000 évig nem lesz még. De egyszer majd biztosan lesz, hiszen nincs neki semmiféle elvi akadálya, az intelligencia képessége nyilvánvalóan nem kötődik eleve a biológiai lényekhez.

Egy emberi szintű MI után nem nagyon van megállás. Jön a 2x-es meberi szintű MI, majd a 100x-os -bármit is jelentsen ez konkrétan. Vagyis olyan problémák lesznek, hogy "szükség lesz-e" még egyáltalán az emberre, vagy az csak felesleges energiapusztító, és szennyező tényező.
Ezért én azt gondolom, hogy az MI kifejlesztése, és mellette az emberiség fejlődése (és így szükségszerű elmaradása), nem egymással párhuzamos folyamat lesz. Hanem egyszerűen (bonyolultan) az lesz, hogy az ember magába fogja integrálni a fokozatosan fejlesztett MI képességeket. Az ember maga sem lesz már teljesen biológiai lény, valószínűleg nem csak a mesterséges implantátumai miatt, hanem azért is, mert ahol csak lehet, magába integrálja az MI képességeket. Így tulajdonképpen nem is lesz külön személyiségként, és egzisztenciaként létező MI (nagy hiba is lenne olyat kifejleszteni), hanem az emberiség fogja az MI képességekkel felturbózni a saját intellektuális kapacitását. Ennek a megoldásnak van értelme, a másik viszont nagyon kockázatos, és zűrös.
Válasz erre 

neoteny · http://word.blog.hu 2014.06.15. 11:01:46

"A számítógépekben manapság van egy központi számítási egység (processzor), az emberi agyban legjobb tudomásom szerint nincs."

Az emberi agy egy masszívan párhuzamos "számítógép" amiben a "feldolgozó egységek" (neuronok) jórészt hasonlóak egymáshoz -- és (nagy valószínűséggel) egyszerre végeznek "feldolgozást" (idegi jelek továbbítását -- vagy nem továbbítását) és memória-funkciókat (amik maguk is -- nagy valószínűséggel -- az idegi jelek [nem]továbbításában fejeződnek ki).

"A számítógépek sokkal több adatot sokkal gyorsabban kezelnek, mint mi emberek."

Ez egy eléggé bátor kijelentés. Csak a (sztereoszkopikus) látás folyamata rengeteg adat (viszonylag gyors) feldolgozását igényli -- és habár mai napság a gépi/számítógépes látás nagy léptekkel halad előre, a biológiai alapú (emberi) látás még "eléggé jól működik", beleértve rengeteg adat gyors feldolgozását.

Ami pedig a MI-t illeti:

Tesler's Theorem: "AI is whatever hasn't been done yet."

en.wikipedia.org/wiki/AI_effect
Válasz erre 

Brendel Mátyás · http://ateistaklub.blog.hu/ 2014.06.16. 08:08:43

A dolog jelentőségét csak az csökkenti, hogy 30 százalék. A többi ellenvetés baromság.

Azért baromság, mert emberek, emberekről pont a Turing teszt scenáriója alapján döntik el, hogy intelligensek-e, vagy sem. Tehát ahhoz, hogy valamit intelligensnek tekintsünk:

1) Elég beszélnie.
2) Elég úgy viselkednie, mintha.

A lehet-e, hogy az intelligensen viselkedő gép nem intelligens, kérdése bugyuta metafizika. Ennyi erővel szolipszista is lehetnél.

A nem emberi intelligencia egy érdekes kérdés, de a Turing teszt jelentőségéből nem vesz el semmit.
Válasz erre 

Brendel Mátyás · http://ateistaklub.blog.hu/ 2014.06.16. 08:12:59

@ipartelep:

"nem olyan, amely a nagyon korlátos Turing tesztnek megfelel (az piskóta), hanem olyan, amely tényleg, minden szempontból annyira értelmes, mint egy ember)"

ami a Turing teszten megfelel, az olyan intelligens, mint az ember. Mari néni Hajdúborzasztón gyakorlatilag annyit tesz intelligencia szempontjából, hogy amikor pletykálkodni kell a boltban, akkor átmegy a Turing teszten. Mari néni mást nem tud.
Válasz erre 

ipartelep · http://ipartelep.blog.hu 2014.06.16. 13:43:19

@Brendel Mátyás: Képzeljük el azt, hogy 50 év múlva lesz egy "csetbot", ami a tesztelők 100%-ával elhiteti, hogy ő igazi ember. Ugye, ez könnyen elképzelhető, igen valószínűnek tűnik, hogy az MI tudomány, ha ma még nem is, de néhány évtizeden belül tudja majd produkálni ezt az eredményt. No és akkor mi van, vagyis mi lesz? Mit mondhatunk arról az eredményről?

Mondhatjuk azt, hogy íme, akkor most készen van a mesterséges intelligencia? Vagy csak annyit jogos mondani, hogy íme, most készen van egy olyan csetbot, amely egy beszélgetés (cset) során minden emberrel elhiteti, hogy ő ember?

Itt végül is az a kérdés, hogy mit gondolunk az intelligencia kritériumának. Miben "merül ki" az intelligencia, milyen képességek alkotják azt.

És szerintem az "igazi MI", és a Turing tesztnek megfelelő MI között az a különbség, hogy a második csak a beszéddel (csettel) kapcsolatos tevékenységeket, műveleteket szimuláléja, vagy végzi jól, míg egy igazi MI intelligenciája ennél szélesebb körű, és olyan képességeket is magában foglal, amelyek egy beszélgetésben nem nagyon tesztelhetőek.

Persze az igaz, hogy egy alapos beszélgetés nagyon megdolgoztatja az intelligenciát, a "gondolkodóizmokat". És az is igaz, hogy látatlanban (hogy ne lássuk az alanyt fizikai valójában) igen macerás lenne egy szélesebb körű, komplexebb MI tesztet alkalmazni. De ebből nem következik az, hogy a ami a Turing teszten átmegy, az felel meg az MI komplex értelmények. Hiszen, - ismétlem - néhány évtized múlva a csetbotok nyilvánvalóan át fognak menni a Turing teszten... És egy csetbot nyilvánvalóan nem hordozza azt a komplex intelligenciát, mint amit egy ember hordoz.

Vagyis a Turing teszt jobb híján jó teszt, de nem hétszentség, és nem az fogja eldönteni, hogy melyik MI rendelkezik teljes körű emberi intelligenciával.
Válasz erre 

szemet 2014.06.16. 13:55:43

@ipartelep: Igen, én is annak a tudásnak örülnék amire az emberek általában képesek, nem egy speciális, egyedi ember tudásának - "elképzelhető egy ilyen ember" is alapon. Szubjektíve meggyőzőbb az ilyen.

pl. ha képtelen lennék őt megtanítani ultizni ( vagy egy egyszerűbb játékra) már kicsit csalódnék, noha a tesztet nem bukná el, hiszen rengeteg ember nem szeret, akar, vagy tud játszani. De mivel épp olyan sok ember meg tud (vagy tudna), ezt értékelném egy MI-töl is, stb.. számtalan ilyen apróság.
Válasz erre 

szemet 2014.06.16. 15:31:30

Eszembe jutott egy szempont, ami még probléma lehet a Turing-tesztben. Hogy ott a gép részesül a tesztelő olyan pozitív induktív ítéleteiből amit esetleg nem érdemel meg.

Példa:
- Akarod hogy tanítsak neked egy új kártyajátékot?
- Nem, most nincs kedvem hozzá.

Itt ember esetén mindenki azt feltételezi, hogy a partner képes lenne rá és csak a kedve az akadály, de csak azért mert számos más példát láttunk rá hogyha valakinek (egy embernek) volt kedve hozzá akkor megtanult egy játékot. Mivel az összes ilyen példánk emberekre vonatkozik, ez az induktív érvelés kizárólag emberekre "igazolt".

Ha valaki gépre alkalmazza, helytelenül teszi: az ugyanis egy teljesen más fejlődési útvonalat bejárt dolog (amelyek fejlődésnek első lépéseit most megfigyelhetjük, és mondjuk látjuk, hogy most még nem értenek meg egy játékot puszta szóbeli vagy leírt magyarázat alapján). Tehát rájuk másféle induktív ítéletet alkalmaznánk.

Az, hogy nem tudja a tesztelő kivel beszélget, egy csomó helytelenül elvégzett induktív következtetést eredményezhet, ami miatt a tesztelő olyan képességeket ítélhet oda tudat alatt automatikusan a tesztelt rendszernek amivel az nem is rendelkezik.

Részben pont ezért várnák MI-től lelkes és sokrétű nyitottságot - egy életunt, hallgatag, négy osztályt végzett, tanulni nem képes öregember szimulációja nem győzne meg - hiszen nekik a való életben is csak az induktív gondolkodásom miatt tulajdonítok egy csomó mindent (nem tesztelgetem őket), amely indukció alkalmazása a gépeknél megalapozatlan lenne.
Válasz erre 

szemet 2014.06.16. 15:35:35

@szemet: Huh, mennyi csúnya nyelvtani hibát vétettem (várnák:), de ember vagyok, higgyétek el! ;)
Válasz erre 

darvenko 2014.06.18. 18:53:05

@Brendel Mátyás: A dolog jelentőségét, ha valami, akkor épp az, hogy csak harminc százalékot tudott megtéveszteni, nem csökkenti. Jelen teszt során tudtommal a bíró beszélt egy emberrel és egy géppel, és a kettő közül ki kellett választania a gépet. Namármost, ha a vizsgált AI, hogy úgymondjam, százszázalékos, akkor a bíra 50 százalék eséllyel találja ki, hogy melyik a gép, tudniillik, azt nem mondhatja, hogy egyik sem. Ennek fényében a harminc százalék nem olyan rossz.

A dolog jelentőségét sokkal inkább az veszi el, hogy Zsenya nem akarja elhitetni magáról, hogy ember. Egy alapvetően nem kollaboráns kamaszt szimulál, aki nem akar értelmesen társalogni. A csetbot alaposan kihasználta azt is, hogy 5 perc az időkeret. Ha a partnere nem tágít egy témától, igen hamar ismételni kezdi önmagát. Személyes véleményem szerint Eugene a teszt komolytalansága miatt nagyon sokat árt az AI-kutatások presztízsének. És a Turing-tesztének is, ami elég nagy hiba, mert a metodikailag kifogástalan Turing-teszt az AI-tudomány egyik legfontosabb eszköze.
Válasz erre 

darvenko 2014.06.18. 19:16:46

@ipartelep: A Turing-teszt, nem egy jobb híján jó teszt. Durván szólva, de tudományos értelemben, mai felfogásunk szerint az az algoritmus AI, ami átmegy a Turing-teszten. A probléma a Turing-teszttel az, hogy nincsenek egyelőre kiforrva a kritériumai. Turing nem is foglalkozott ezzel, ő, amikor megírta a nevezetes cikkét, programot akart adni, irányt akart mutatni. Kissé visszatetsző, hogy egyelőre 100 000 $-t lehet keresni egy algoritmussal, amiről elhisszük, hogy egy hülye ember. Én például a hülyékről elhiszem, hogy emberek, de azt már nehezen, hogy intelligensek. És ha a mesterséges intelligencia tudományos fogalma valóban intelligenciát akar fedni, akkor célszerű a Turing-teszt kritériumainak a megválasztásakor magasabbra tenni a lécet.

Más Kissé érdekelne, hogy honnan veszed a prognózisaid. Meg az is, hogy mikor lesz meg kábé a Riemann-sejtés bizonyítása.
Válasz erre 

ipartelep · http://ipartelep.blog.hu 2014.06.18. 20:46:41

@darvenko: "A probléma a Turing-teszttel az, hogy nincsenek egyelőre kiforrva a kritériumai. "
Nem. (Bármit is jelentsen ez a "nincsenek kiforrva a kritériumai"). A probléma a Turing-teszttel elsősorban az, hogy a nagyon széleskörű, komplex intelligenciának csak egy jellemzőjét (a beszédkészséget - amely persze -ezt senki nem vitatja - korrelál a gondolkodási képességgel), egyetlen egy csatornán át (csetelve) vizsgálja.

"És ha a mesterséges intelligencia tudományos fogalma valóban intelligenciát akar fedni, akkor célszerű a Turing-teszt kritériumainak a megválasztásakor magasabbra tenni a lécet."

Ez is jelenthet több mindent is. Úgy a "kritériumok" korrektebb kidolgozását, beállítását, mind a beszélgetés témáinak pontos kidolgozását, szabályozását. De persze, nyilvánvaló, hogy dolgozni kell az ügyön, hiszen az mégse járja, hogy mindenféle Móricka programmal átverik a jónépet, elhitetvén azt, hogy máris itt van az MI.

Mint ahogy azt jósoltam, az még odébb lesz. És hogy a kérdésedre válaszoljak: A prognózisaimat saját magam találom ki (tehát pl. nem olvasom őket máshol).
Mik a te prognózisaid az MI-re? Szerinted mikor lesz. Megpróbálsz egy becslést adni rá?

Ja a Riemann-sejtésre is rákérdeztél, hogy azt mikorra prognosztizálom. Arról nincs annyira pontos jóslatom mint az MI-ről, de úgy érzem, a következő 1000 éven belül az is meglesz. ;-)
Válasz erre 

szemet 2014.06.18. 21:04:15

@darvenko: "hogy nincsenek egyelőre kiforrva a kritériumai"

Turing óta a megvalósítható kritériumok köre is kibővült, és ha megvalósítható akkor én el is várnám a megvalósítást.

Egy példa, Turing gondolom valamiféle teletype-ot képzelt el. Lefogadom fel sem merült benne, hogy mondjuk képekről való beszéd is belefér.

Ma viszont semmi akadálya ennek, ha chatelek:
- Te nézd már ezt a képet: ......
- Van egy tök jó videó itt: ...
stb...
- Itt ez a rádióintejú X-szel: ....

Itt aztán lehet mindenféle mintafelismerés:

végigjátszathatok vele egy kisiskolásoknak szóló fejlesztőkönyvet (zsúfolt színes rajzok részleteinek leíratásától kezdve egyszerű rajzos feladatokig, labirintus pl), a legtrükkösebb capthca-kat tolhatom elé stb...

Ekkor jöhet az, hogy az MI egy süket és vak embert szimulál, és akkor persze a valós embereknek is süketeknek és vakoknak kell lenniük a tesztben - különben könnyű kiszúrni melyik a gép ;)

Egyébként valakitől aki egyszerre süket és vak nem is várnak olyan sokat az emberek (a wikipedián pl. név szerint fel vannak felsorolva akik diplomáig eljutottak így!), ez két legyet egy csapásra.

Vajon ha Turing tudta volna hogy a lehetőségek így kitágulnak, belevette-e volna ezeket, vagy marad szigorúan terminálon pötyögésnél - mint az intelligencia egyetlen igaz fokmérője?
Válasz erre 

szemet 2014.06.18. 21:29:17

Össefoglalva én azt várom az MItől amire minden átlag emberi intellektus képes! De semmikép se kevesebbet, annyit vagy többet.

Őszintén szólva engem pl. az nem zavar ha úgy bukik le a gép a Turing teszten, hogy jobban látja az összefüggéseket mint én, gyorsabban fejt rejtvényt mint bármelyik ember, szebb költeményt ír 1 másodperc alatt mint én egy nap alatt - ha így bukik le számomra átmegy!

De kevesebbel beérni mint az ember, háát, azok hülyék jutnak eszembe akik kevesebbel beérték aztán kénytelenek voltak csalódni:

"Majd akkor hiszem el hogy a gép gondolkodik, ha megver sakkban!"

Ugye?

Nekem pl. a Turing tesztben pl. a "nincs kedvem hozzá" egy átverés - ha valóság az, hogy valójában nem képes rá. Ha ő nem képes (a szomszéd kisfiú meg mondjuk igen), akkor nekem az még kevés...
Válasz erre 

szemet 2014.06.18. 22:16:33

MEg hát ugye a cikk is rámutat, hogy nonszensz az a követelmény hogy az emberi elme "bénaságait" is megköveteljük, különben lebukik.

Miért feltétele mondjuk az MI elfogadásának, hogy az összes minket sújtó érzékszervi "illúzió" sújtsa őt is? Muszáj beleverni, hogy mi mikor látjuk a párhuzamosokat összetartónak, az azonos színeket különbözőnek, kicsit nagynak, a nagyot kicsinek stb?

Muszáj neki is a logikailag ekvivalens de eltérő megfogalmazásban leírt feladatokat különböző sebességgel megoldania?

Véletlenül sem szégyenítheti meg a fejszámolóművészeket?

Csak akkor MI? Különben nem az, hiszen lebukik!
Válasz erre 

darvenko 2014.06.18. 23:44:38

@ipartelep: Nekem nincsenek becsléseim az MI elkészültére, egy kivételével: ha, egy szigorú Turing-teszten átmegy egy csetbot, akkor a tudományos kutatás gyökereiben változik meg. Ha egy MI el tudja hitetni egy szakterület kutatójával, hogy ő is annak a szakterületnek az aktív kutatója (ez belefér a Turing-teszt kritériumaiba), akkor (bár lehet, hogy szakterülete válogatja) invenciózusnak kell lennie, és ily módon maga is részt vehet a kutatásban. És ha a gép erőforrásait lényegesen olcsóbban tudjuk inkreálni, mint az emberéit, akkor, amint az MI eléri az ember verbális intelligenciáját, azonnyomban hatékonyabbá is válik; és a többi adaptációs problémát - hangzó, képi, emocionális minták analízise, felismerése, ... - akár maga is, viszonylag könnyedén megoldhatja. A helyzet az, hogy könnyen lehet az MI adekvát jellemzője az, hogy átmegy-e Turing-teszten.
Válasz erre 

Brendel Mátyás · http://ateistaklub.blog.hu/ 2014.06.19. 00:05:58

@ipartelep:

"Mondhatjuk azt, hogy íme, akkor most készen van a mesterséges intelligencia?"

igen.

"Itt végül is az a kérdés, hogy mit gondolunk az intelligencia kritériumának. Miben "merül ki" az intelligencia, milyen képességek alkotják azt. "

ez nem kérdés. mondtam már, beszélsz egy másik emberrel a chaten, őróla is a Turing teszt alapján döntöd el, hogy intelligens-e.

ez tény, ez nem kérdés. aki ezt tagadja, az egy kurva egyszerű, mindennapos empirikus tényt tagad.

ezen filózni akkora baromság, mint azon filózni, vajon "felkel-e" a nap minden nap. igen, "felkel", tessék kimenni, megnézni!

"És szerintem az "igazi MI", és a Turing tesztnek megfelelő MI között az a különbség, hogy a második csak a beszéddel (csettel) kapcsolatos tevékenységeket, műveleteket szimuláléja, vagy végzi jól, míg egy igazi MI intelligenciája ennél szélesebb körű, és olyan képességeket is magában foglal, amelyek egy beszélgetésben nem nagyon tesztelhetőek."

van olyan eset, amikor nem tesztelsz más képességeket. például rólam kurvára semmit nem tudsz, csak azt, hogy intelligensen írok. most őszintén, ez alapján elfogadsz embernek, vagy akarod tesztelni, hogy tudok-e ezen kívül még szőlőt kapálni?!

tény, hogy a megfelelő beszélgetési képességet elfogadjuk az intelligencia elégséges mércéjének. te is elfogadod. itt és most is elfogadod. ezen a tényen vitázni baromság.
Válasz erre 

Brendel Mátyás · http://ateistaklub.blog.hu/ 2014.06.19. 00:09:03

@szemet: "ha képtelen lennék őt megtanítani ultizni "

a Turing tesztben teljesen nyilvánvalóan benne van az ulti teszt, hiszen chaten keresztül lehet valakit ultizni tanítani. ezzel tesztelheted a chatbotot. másrészről magad is elismerted, hogy nem is tekinted szükséges kritériumnak, tehát bevallottad, hogy a példád rossz. azért rossz, mert nincs igazad.

a Turing teszt elégséges tesztje az intelligenciának. azért elégséges, mert tény, hogy sok valódi esetben elfogadjuk elégséges kritériumnak, amikor emberekkel chatelünk.
Válasz erre 

Brendel Mátyás · http://ateistaklub.blog.hu/ 2014.06.19. 00:15:12

@szemet:

"Az, hogy nem tudja a tesztelő kivel beszélget, egy csomó helytelenül elvégzett induktív következtetést eredményezhet"

itt most úgy ekézed a Turing tesztet, hogy mi van, ha a tesztelő hülye. csakhogy ha úgy definiáljuk, hogy az emberek jelentős részét, és par excellence okos embereket is meg kell győznie, akkor rendben vagyunk.

"amely indukció alkalmazása a gépeknél megalapozatlan lenne."

egyébként nem tudom, miért mondod ezt, az érvelésed körbenforgó, te arra hagyatkozol, hogy az intelligens gépekre nem érvényes az intelligens embereknél érvényes induktív jellegű statisztikus szabály. tehát abból indulsz ki, hogy az intelligens gépek mások, mint az intelligens emberek.

az erős AI hipotézise meg feltételezi, hogy nem mások, és ezért lehetséges mesterséges igazi intelligencia.

ha te nem fogadod el az erős AI lehetőségét, akkor totál felesleges vitáznod a Turing tesztről, mert eleve pesszimista hülye vagy.

ha viszont elfogadod a lehetőségét, akkor ne abból indulj ki, hogy hamis! és ne mondjál olyat ez alapján, hogy a gépekre nem érvényes az emberekre érvényes indukció, amely a szellemi képességeikről szól!
Válasz erre 

Brendel Mátyás · http://ateistaklub.blog.hu/ 2014.06.19. 00:19:49

@darvenko:

"A dolog jelentőségét, ha valami, akkor épp az, hogy csak harminc százalékot tudott megtéveszteni, nem csökkenti. Jelen teszt során tudtommal a bíró beszélt egy emberrel és egy géppel, és a kettő közül ki kellett választania a gépet. Namármost, ha a vizsgált AI, hogy úgymondjam, százszázalékos, akkor a bíra 50 százalék eséllyel találja ki, hogy melyik a gép, tudniillik, azt nem mondhatja, hogy egyik sem. Ennek fényében a harminc százalék nem olyan rossz."

szignifikánsan rosszabb.

"Személyes véleményem szerint Eugene a teszt komolytalansága miatt nagyon sokat árt az AI-kutatások presztízsének."

szerintem nem. mert majd most elkezdik pontosítani, hogy mi legyen egy komoly Turing teszt mércéje. minden esetre lökést adott egy folyamatnak. az mindig nagy lökés, amikor elkezd komolyan beindulni egy verseny, mert valaki tökéletlenül, de ténylegesen csinált valamit az irányban. az ilyen dolgoknak nagy gyakorlati jelentőségük van.

van egy chatbot, amely 5 percig hülyékkel képes elhitetni, hogy ő ember. ez már üzleti alap.
Válasz erre 

Brendel Mátyás · http://ateistaklub.blog.hu/ 2014.06.19. 00:23:31

@darvenko: két dolog miatt nem kell magasabbra tenni a lécet a Turing tesztnél:

1) a hülye ember is ember. a filozófiai kérdés általában nem az, hogy az okos ember lelke transzcendens-e, vagy az okos ember kifejlődhetett-e evolúcióval, hanem az, hogy az emberi lélek transzcendens-e, illetve az ember kifejlődhetett-e evolúcióval

2) azt tudjuk, hogy tanítással hülye emberből lehet okosat csinálni. ha tehát megvan a hülye ember szintű AI, akkor az okos ember szintű AI már belátható távolságra van
Válasz erre 

szemet 2014.06.19. 07:17:16

@Brendel Mátyás: "tehát abból indulsz ki, hogy az intelligens gépek mások, mint az intelligens emberek.

az erős AI hipotézise meg feltételezi, hogy nem mások, és ezért lehetséges mesterséges igazi intelligencia"

Nem abból indulok ki, hiszen pont ez az eldöntendő kérdés.

A gépek jelenlegi képességeikből indulok ki és
jelenleg még mások, gyengébbek. Mivel az indukció a korábbi hasonló megfigyeléseken alapul, az emberek múltbeli megfigyelését nem vonatkoztathatom induktívan egy embert utánozni próbáló gépre, amikor pont az utánzás esetleg rendkívül rejtett fekete foltjait kell felderíteni.

Ott van a konkrét példa: a "nincs X-hez kedvem", mivel még nem láttam gépet ami képes volt X-re, ezért egy ilyen "terelés" még nem győzhetne meg.

De mivel láttam embereket akiknek volt kedvük és képesek voltak rá, az ő részükről mondjuk elfogadom. (és esetleg egyes egyedi esetekben ott is tévedek persze - de hát ilyen az indukció)

Ha már 1000 géppel beszéltem és közülük 200-nak volt kedve, a másik 800 is jobb elbírálást kap majd, de minél több információm lenne arról hogy a 800 mennyire hasonlít a 200-ra annál jobbat. Az emberekről tudom (szintén induktív módon persze), hogy marhára hasonlóak, de ez az egységesség a gépeknél még nincs így. Az 1000. emberről jogosan feltételezel egy csomó mindent, amit az 1000. gépről nem (pláne ha pl. tudod hogy más cégtől, más laborból származik mint az előzők)

Az emberekre kialakult pozitív induktív értékeléseimet akkor nyerhetné el egy robot tőlem, ha nemcsak megfigyelés alapján hanem szerkezetileg hasonlít egy emberre. (Pl. mikroméretü robotokkal egy élő ember teljes ideghálózatát beszkennelik, és lemásolják) Egyébként 0-ról maguknak kell ezt kitermelni - és akkor persze a "nincs kedvem" nem opció.

Csakhogy embereknél opció! Tehát a Turing tesztben legálisan "ellóghat" egy robot számtalan feladatot, és én mégsem süthetem rá hogy robot - azaz egyértelműen meglévő hiányosságok mellet is átmehet a teszten.
Válasz erre 

szemet 2014.06.19. 07:33:41

@darvenko: "akár maga is, viszonylag könnyedén megoldhatja"

Az önmagát fejlesztő robot kétségkívül egy fordulópont lenne - nem rémlik hogy a Turing cikkben erről lett volna szó, de a Turing teszt nem erről szól:

Rengeteg ember nem tud fejlesztési javaslattal hozzájárulni még egy mobiltelefonhoz se. De aki igen, az is csak egy apró töredéket ad hozzá, a mobil az emberiség évtizedes összeadott erőfeszítése. Ha ilyen emberi léptékű apró hozzájárulásokat tesz a robot az már szerintem bőven sok hogy átmenjen egy Turing teszten, de ahhoz még nagyon kevés hogy mondjuk a teljes vizuális képességét önmaga kifejlessze.

De már az apró hozzájárulás is szükségtelenül sok: ugyanis a Turing teszt nem szól arról hogy valamely terület szakemberét kell előállítani. (még ha ez tényleg elismerésre méltó lépcsőfok lenne!)
Válasz erre 

ipartelep · http://ipartelep.blog.hu 2014.06.19. 10:49:02

@Brendel Mátyás: Sajnos, nem értek egyet azzal a véleménnyel, amely szerint a Turing teszt tökéletes próbája az MI-nek. A teszt azért nem mutatja jól az MI-t, mert a képességeknek csak egy szűk tartományát (konkrétan a csetelési képességet) méri. És az intelligencia ennél komplexebb, szélesebb képesség.

Ugyanakkor azt nem mondom, hogy erre a célra jelenleg van jobb módszer. Így ezt kell elfogadni, és persze finomítani, tisztázni a "kritériumokat", és csiszolni a tesztet.

Vagyis a következőkről van itt szó: Az ember egyrészt érzi (meg tudja), hogy az MI todomány mai állása szerint egy bármilyen csicsás, jó dumás, megtévesztő csetbot sem lehet úgy, és annyira intelligens, mint egy átlagos ember (kb. 3x elmondtam, hogy miért: mert az intelligencia sokkal komplexebb képesség a jó csetelési képességnél). Másrészt meg azt is tudja az ember, hogy hát valahonnan el kell indulni (erre jó, és kell egy ilyen teszt), hogy az MI fogalma, és mértéke maga is definíciós kérdés (vagyis elhatározás, és konszenzus kérdése, hogy mi tartozzon bele, és mely mértéktől megfelelő), és így végül is pragmatikus-gyakorlati-célszerűségi kérdés, hogy mit fogadunk el MI-nek.

Az említett másik témád pikáns. Arról beszéltél, hogy "tény, hogy a megfelelő beszélgetési képességet elfogadjuk az intelligencia elégséges mércéjének", és arról, hogy "például rólam kurvára semmit nem tudsz, csak azt, hogy intelligensen írok...".
A helyzet az, hogy rólad ez ügyben van egy fontos imformációm: Ember vagy, és nem csetbot. Ennek a valószínűsége, úgy 99.999...% körül jár. Na most ugye, ez a teszt nem az emberi intelligencia tesztelésére szolgál, - hiszen az embereket alapból intelligensnek fogadjuk el -, hanem azt próbálja eldönteni, hogy az MI megvan-e.
Tehát téged (és senki más hozzászólót) nem is vetlek alá a Turing tesztnek, téged nem a szövegeid alapján tartalak intelligensnek, hanem _eleve azért_, mert tudom, hogy ember vagy. Ettől még persze a szövegeid alapján is átmennél a teszten, de a lényeg az, hogy az emberi beszélgetőtársainkat nem Turingteszteljük.

Viszont, hogyha arra vetemednénk, hogy az internetes fórumok emberi szereplőit is alávetnénk a tesztnek, akkor néha nehéz helyzetbe kerülnénk. Nagyon sok olyan szereplő van, akik az emberi mivoltuk miatt alapból intelligensek, és mégsem olyanok a megnyilvánulásaik. De itt ütközünk bele a mérték problémájába: Ha mondjuk egy 1000-es skálán kellene ábrázolnunk az (komplexen értelmezett) intelligencia mértékét, a semmitől, a legokosabb emberéig, és a skálán az állatok is szerepelnének, akkor mondjuk egy vírus kapna 5-öt, egy amőba 30-at, egy kutya 300-at, és az emberek a 700-1000 között lébecolnának. Na most, az MI hol foglaljon itt helyet? Mikortól MI? Van már a csetbot annyira intelligens, mint pl. egy kutya? Nyilván, beszélni sokkal jobban tud nála (a kutyánál). De érti is, amit mond? A kutya cselekvései autentikusak, ezáltal az intelligenciájába beágyazottak, abból következnek. A kutya a maga szintjén kétségkívül érti is amit csinál. De egy csetbot szövegei mibe vannak beágyazva? A csetbot is érti, amit mond?
Vagy neki nem is kell értenie, elegendő, ha csak olyan benyomást tesz a szemlélődőre?

Nem is folytatom, de a fenti kérdésekből is látszik, hogy nem olyan sima ügy ez. Egyelőre még az sem tisztázott pontosan hogy mit várunk el az MI-től, vagy hogy mit érdemes elvárni tőle.
Válasz erre 

szemet 2014.06.19. 11:40:07

@Brendel Mátyás: "ne mondjál olyat ez alapján, hogy a gépekre nem érvényes az emberekre érvényes indukció, amely a szellemi képességeikről szól"

De mondok, az emberekre a szerkezeti hasonlóság miatt alkalmazok egy csomó induktív feltevést, amit a robotra nem.

Tfh. :
A szerkezeti, felépítésbeli hasonlóságot a chaten is feltételezem - de ha robot van ott bebukom.

Ok. Akkor nem feltételezem - de ha ember van ott bebukom - mert ekkor egy nem eléggé együttműködő embert butának kell elkönyvelnem (nem tud játékot tanulni, nem tud egy logikai tesztet megoldani, nem tud rövid mesét kitalálni megadott témában -- tehát nem ember)...

Te hajlandó lennél mondjuk mostantól egy hétig minden feladatomat végrehajtani? ;) Vagy idővel elküldenél a pi**ba. A második esetben nálam buknád a Turing tesztet mert 0-ról kell minden képességedet tesztelnem - sőt sajnos valószínűleg lehet egy hét nem is elég erre...

Most még élvezed az induktív bizalmam - Na mi legyen? ;)
Válasz erre 

szemet 2014.06.19. 11:55:52

Egyébként valami ilyesmit fogadnék el szívesebben - valami rendkívül átfogó, sokrétű tesztcsomagot, ami mindenfélét mér.

Tanulási képességet, változatos problémamegoldó képességeket, stb...

Rengetegféle tesztet, ezek kiértékelését különféle emberekre, majd a gépekre. És mondjuk akkor utána lehet olyat mondani, hogy matematikai kreativitásban a gép egy átlag 9 éves szintjén van, fogalmazásban viszont egy átlagos diplomás ember szintjén stb...

Persze ez az egész nehéz, millióféle tesztet megtervezni és értékelni, olyat ami az emberek által intelligensnek tartott viselkedést széleskörűen lefedi, lehetőségek szerint objektív, ráadásul az egésznek rugalmasnak mégis összevethetőnek kell lennie: mert mi van ha kiszivárog egy "túl statikus" feladatsor megoldókulcsa

De egyelőre még korai is ebbe sok erőfeszítést fektetni.

Majd ha lesz az emberi intelligenciának kihívója, biztos vagyok benne hogy a legváltozatosabb, legkreatívabb, legsokfélébb teszteknek fogjuk alávetni szerte a világban amit csak ki tudunk találni - ami aztán persze még tovább fogja lendíteni a fejlődés útján.
Válasz erre 

szemet 2014.06.19. 12:17:23

@Brendel Mátyás: "Most még élvezed az induktív bizalmam - Na mi legyen? ;)"

Egyébként semmi kedvem, és időm veled általános iskolai fejlesztőfüzeteket megoldatni, és gondolom ezzel te is így vagy.

De abban egyetértünk, hogy egy Turing teszt alanynak (embernek gépnek egyaránt) kimondottan meg kéne tiltani, hogy kibújjon a feladatok alól (nincs időm, nincs kedvem, vak vagyok, süket vagyok)? Különben a gép hazudhat a fekete foltjait elkerülendő, és eredmény gyengül.
Válasz erre 

szemet 2014.06.19. 20:41:59

@ipartelep: "De érti is, amit mond?"

Pár talán kapcsolódó konkrétum:

Ugye a sakkprogramok ellen szokták azt felhozni, hogy

"jó-jó de a program nem "érti" a sakkot csak viszonylag agyatlanul milló lehetőséget kipróbál, ezzel szemben az emberek értik"

Ez a sakknál elég gyenge ellenvetés, mert a sakk nemigazán mutat önmagán túl: vannak a szabályai és meg kell nyerni. Aki megnyeri, az szerintem tul. képpen "érti" a sakkozást - hiszen ezen túl nincs különösebb mögöttes tartalma az egésznek.

Ezzel szemben vegyük a fordítóprogramokat:

Nagy optimizmussal vágtak bele, aztán jöttek a kudarcok - ugyanis végképp bebizonyosodott, hogy a helyes fordításhoz nem elég a rengeteg nyelvtani szabály, és a szótár: a helyes fordításhoz meg kell érteni a szöveget.

Azaz a szöveg vonatkozik, referál valamire, azoknak a valamiknek az összefüggéseit is érteni kell (amely összefüggések általában függetlenek a leíró nyelvtől) és csak akkor lehet jól fordítani. Nem véletlenül vannak az embereknél is szakfordítók, akiknek hogy jól tudjanak fordítani egy adott szakmához is jól kell érteniük.

Tehát eljutottak oda hogy egy jó fordítóprogramnak nem csak ismernie kell a nyelvet, hanem ismernie ("értenie") a világot is (amire a nyelv referál).

Ez elég nagy feladat, ezért az elmúlt évek slágere pontosan az lett mint sakkban:

A statisztikai fordítás. Felfoghatatlan méretű kétnyelvű szövegkorpusz (big data), és ezen az óriási állapotéren viszonylag egyszerű "buta" statisztikai algoritmusokkal megfeleltetni az új fordítandó kifejezéseket a régebbieknek.

És bár ez elég nagy lökést adott a területnek, ennek ellenére itt már talán tényleg jogos a sakkos felvetés:

"jó-jó de a program nem "érti" a nyelvet ezzel szemben az emberek értik"
Válasz erre 

neoteny · http://word.blog.hu 2014.06.20. 04:26:28

@ipartelep:

"az MI fogalma, és mértéke maga is definíciós kérdés (vagyis elhatározás, és konszenzus kérdése, hogy mi tartozzon bele, és mely mértéktől megfelelő)"

Ha valaki beleolvas Turing tanulmányába ( orium.pw/paper/turingai.pdf ), a legelső bekezdés pontosan arról szól hogy Turing az "imitációs játékot" javasolta a "definíciós kérdés" (konszenzuális) megoldása _helyett_. Lehet vitatni Turing álláspontját, de azt nem lehet számonkérni rajta hogy a tesztjét kielégítő HW/SW kombó nem felel meg a MI valamiféle definíciójának: épp' ez volt a célja, ti. hogy a "definíciós problémát" kiváltsa az "imitációs játékkal". (Nagyon dióhéjban) azt mondta: a gondolkodás egy (átlagos) emberi képesség; ha egy számítógép elégségesen imitál egy (átlagos) embert egy (átlagos) ember saját ítélete szerint, akkor a számítógép (és a hozzá tartozó adatbázis és szoftver) gondolkodik.
Válasz erre 

ipartelep · http://ipartelep.blog.hu 2014.06.20. 12:45:11

@neoteny: Mivel az "imitációs játék" maga a Turing-teszt, az első mondatoddal nem sok újat mondtál. Kezdettől fogva a Turing-tesztről beszélgetünk, csak azt nem úgy neveztük, hogy "imitációs játék". De ha most elkezdjük úgy nevezni, az semmin nem változtat semmit.

Hát akkor ismétlek: A probléma éppen az a Turing-teszttel, hogy "nem plauzibilis" az az elképzelés, hogy ha valami átmegy a teszten, akkor az intelligens. Azért, mert egy csetelős teszt (vagyis még csak nem is beszélgetős, ugye), nem képezi le teljes körűen azokat a képességeket, amiket az emberi mértékű intelligenciának tulajdonítunk, attól elvárunk.

Természetesen az intelligencia fokának a megállapítása, az részben definíciós, és konszenzusos kérdés is (hiszen előtte tisztáznunk kell pár fogalmat, és meg kell azok jelentésében, mértékében egyeznünk - különben "kínaiak" leszünk egymásnak), és nyilván kell hozzá egy eljárás (vagyis teszt), aminek segítségével a tényeket felmérjük, és összehasonlítjuk az elméletileg tételezettel. De nincs ebben semmi boszorkányság: Sosem az van, hogy csak úgy méregetünk bele a vakvilágba, hanem az eredményeket egy fogalmi keretben interpretálni is kell.

Na most, azt persze lehet mondani, hogy e célra a Turing-tesztnél jobb még nincs. Igen, ez a helyzet. De egyelőre nincs is szükség jobbra, hiszen (a már legendás becslésem szerint) emberi szintű MI néhány évtizeden belül úgysem várható, az alacsonyabb szintű csetbotokkal meg jól elszórakoznak a mostani tesztek is.

Még egy másik kérdés az, hogy ha az MI témában az "egészen olyannak látszik, de mégsem az" írja le a Turing-teszt, vagyis az MI meglétének a korlátját, akkor valójában mi az MI másik minimumfeltétele? (Ugye, az egyik, az az - ezt nézi a Turing-teszt -, hogy meggyőző legyen, úgy tegyen, mintha intelligens lenne.)
És erről már részben esett szó korábban: Az autentikus viselkedés, az "érti, és tudja is, mit beszél" állapot megléte, egyszóval, valamiféle "tudat" jelenléte. Ugye, említettem, hogy ugyan egy kutya csak a maga módján, és szintjén intelligens, viszont azon a szinten teljesen hitelesen, és tudatosan viszi a magamagát. És természetesen az ember is a maga szintjén. Az ember beszédképessége, nem ugyanaz, mint a csetbot csetképessége. A csetbot nem gondolkodik, nincs (ön-én)tudata, a szövegeit egy ügyes algoritmus állítja elő. Míg az ember beszédképessége, csak egy "következménye" az intellektuális képességei széles tárházának, a tudatosság, egy kis szelete.

Persze, azt lehet mondani ellenvetésül, hogy igen, pont így kell felépíteni az MI-t: Meg kell csinálni a csetképességet, adni kell hozzá rengeteg memóriát, azt feltölteni emlékekkel, adatokkal, tudással, logikát, gondolkodási képességet hozzáadni, stb. és akkor ebből a sokféle képességből, és tulajdonságból egyszer csak összekezd állni egy tudat. És így végül is a tudat-nem tudat állapot között nem minőségi- csak mennyiségi a különbség: Ha eléggé sok(féle) intellektuális képességgel telezsúfoljuk az MI-t, és azok egyenként is elérnek bizonyos szintet, és az egészet egy rendszer integrálja (az agy), akkor arra egy szinten felül mondható, hogy az már egy "tudat".
Na most, ettől a mai csetbotok fényévekre vannak.
Válasz erre 

szemet 2014.06.20. 14:15:33

@ipartelep: "Na most, ettől a mai csetbotok fényévekre vannak."

Igen ezt talán úgy lehetne megfogalmazni, hogy amíg white boxként is átlátjuk ezeket a rendszereket, tökéletesen felesleges a Turing-teszt. Ha az alkotói is biztosak benne (márpedig a jelenlegi chatbotok írói így vannak), hogy az alkotásuk nem fogja megérteni Euklidésztől az Elemeket, akkor mit várnak a Turing teszttől - max. annyit hogy: "nem bukik le"

Olyan ez mintha tudnám hogy HIV pozitív vagyok, de azért szorgalmasan járok a tesztekre, hiszen azoknak is van pár ezrelék hibájuk, és ha egyszer véletlenül sikerül a negatív eredmény, azt utána büszkén kitenném a falra.

Ez a helyzet most még. De remélhetőleg persze a jövőben tényleg olyan hatalmasra nőhetnek "unsupervised" módon ezek a rendszerek, hogy az alkotóknak sem lehet fogalmuk se még a képességek jellegéről se - ilyen esetben természetesen már jogosak lesznek a tesztek (mindeféle teszt), és nem csak "kabaré".
Válasz erre 

neoteny · http://word.blog.hu 2014.06.20. 15:32:59

@ipartelep:

"Kezdettől fogva a Turing-tesztről beszélgetünk, csak azt nem úgy neveztük, hogy "imitációs játék". De ha most elkezdjük úgy nevezni, az semmin nem változtat semmit."

Mindössze annyit, hogy Turing explicit módon elvetette a "definíciós problémát", vagyis az hogy "[t]ermészetesen az intelligencia fokának a megállapítása, az részben definíciós, és konszenzusos kérdés is (hiszen előtte tisztáznunk kell pár fogalmat, és meg kell azok jelentésében, mértékében egyeznünk" szerinte nem a jó megközelítés annak a kérdésnek a megválaszolására hogy "képesek-e a (számító)gépek gondolkodni?" Ahogy írta: "Instead of attempting such a de finition I shall replace the question by another, which is closely related to it and is expressed in relatively unambiguous words."

"egy csetelős teszt (vagyis még csak nem is beszélgetős, ugye), nem képezi le teljes körűen azokat a képességeket, amiket az emberi mértékű intelligenciának tulajdonítunk, attól elvárunk."

"The question and answer method seems to be suitable for introducing almost any one of the fields of human endeavour that we wish to include."

"ha az MI témában az "egészen olyannak látszik, de mégsem az" írja le a Turing-teszt, vagyis az MI meglétének a korlátját"

Turing szerint az ami "egészen olyannak látszik" az éppen az. Ti. ha a (számító)gép a gondolkodás látszatát kelti egy emberi megfigyelőben (az imitációs játékon keresztül), akkor az gondolkodik. Így hát Turing számára nincs "másik minimumfeltétel".

"Na most, ettől a mai csetbotok fényévekre vannak."

"There are already a number of digital computers in working order, and it may be asked, "Why not try the experiment straight away? It would be easy to satisfy the conditions of the game. A number of interrogators could be used, and statistics compiled to show how often the right identification was given." The short answer is that we are not asking whether all digital computers would do well in the game nor whether the computers at present available would do well, but whether there are imaginable computers which would do well."
Válasz erre 

ipartelep · http://ipartelep.blog.hu 2014.06.20. 18:43:12

@neoteny: Jól van... Nagyon megtisztelő, hogy a közvetítésed segítségével magával Alan Turinggal vitatkozhatom, de mégis van egy kis hiány- és hibaérzetem: Úgy érzem, a közvetítés során interpretációs hibák vannak. Mindazonáltal, ezek megbeszélése ilyen közvetett módon, - pláne, hogy szegény Alan már kevésbé tud részt venni az interakcióban - reménytelen, továbbá én a témáról már nagyjából el is mondtam a véleményem, így azt hiszem, nem is szaporítanám tovább a betűket.
Válasz erre 

neoteny · http://word.blog.hu 2014.06.20. 20:08:57

@szemet:

"a szöveg vonatkozik, referál valamire, azoknak a valamiknek az összefüggéseit is érteni kell"

A YouTube-on találhatóak videók ahol Watson (az IBM által kreált Jeopardy! "játékos") megvetekszik két korábban igen sikeres emberi játékossal. A Jeopardy!-ban témák vannak, ahol szöveges kérdéseket kell megválaszolni; így hát "igencsak adja magát" egy MI játékba vonásához. Ugyanakkor a szöveges kérdések gyakran szójátékokon, implicit információkon, célzásokon alapulnak; a használt stílus egyáltalán nem volt "lebutítva" Watson kedvéért. Amik igazán tanulságosak azok a hibái (mert egyébként magasan lekörözte az emberi játékosokat): melyek voltak azok a kérdések amelyek annyira "elvontnak" bizonyultak hogy Watson vagy képtelen volt gyorsabban válaszolni mint az emberi játékosok, vagy hibás választ adott.

Ha valaki ért angolul, igen élvezetes megnézni őket: a "watson jeopardy" YouTube-on keresése feldobja a releváns videókat.
Válasz erre 

szemet 2014.06.20. 21:54:01

@neoteny: Ha teljesítmény meg is egyezik majd, még mindig lehet egyfajta idegenkedés az emberekben ha a működési mechanizmus más:

jelenleg ugye a "elképesztően sok adat + kevés egyszerű összefüggés" vonalon vannak a leglátványosabb gépi sikerek - ilyen a sakk, a Watson, a google translate, a google automata sofőrje is talán

Az ember meg ehhez képest "kevés adat + rengeteg összefüggés" módon működik.

Már már túlontúl is : közismert, hogy a véletlenben is hajlamosak vagyunk pl. hamis mintázatokat felfedezni.

Sőt száraz adatokat szinte alig tudunk megjegyezni vagy visszaemlékezni rájuk összefüggések híján: A memóriánk kimutathatóan asszociatív, azaz összefüggések rángatják, egy szagról mondjuk beugrik egy emlék arról egy kapcsolódó érzés stb...

Sőt ha nincsenek összefüggések a megjegyzendő dolgok között, a legjobb fiktív összefüggéseket kitalálni - a memória bajnokságokon klasszikus módszer a száraz adatokat (kártyapakli sorrend, bináris számjegyek), egy színes szagos, időben és térben kiterjedt vizuálisan gazdag (és így sok asszociációhoz köthető) jelenetre "átfordítani", majd vissza ( fourhourworkweek.com/2013/02/07/how-to-memorize-a-shuffled-deck-of-cards-in-less-than-60-seconds/ )

Ez a mai számítógépeken nevetséges lenne - adatokat kibővíteni fiktív asszociációkkal csak hogy jobban tárolódjanak...

NA már most ezek után vélekedhet valaki úgy, hogy a dolgok "értése" azonos sok összefüggés ismeretével, míg aki sok egyedi eset felsorolásszintű ismeretén operál aránylag kevesebb összefüggéssel (mint a sikeres gépek jelenleg) azt nem tekintjük "értés"-nek.

Ez persze túlmutat a Turing teszten, mert ez már egy white-box értékelése a rendszereknek. Aki ugye támogatja a Turing tesztet az az ilyesfajta hozzáállást nyilván hülyeségnek tartja.
Válasz erre 

neoteny · http://word.blog.hu 2014.06.21. 01:41:59

@szemet:

Watsonban nem az a nagy durranás hogy nagy relációs adatbázisa van (habár az sem elhanyagolandó), hanem a természetes nyelvi feldolgozó frontend-je: az ami végzi a szöveg megértését, azt hogy mire referálnak a szavak, "azoknak a valamiknek az összefüggéseit" ahogy te fogalmaztál.

Az automata sofőr pedig ugyanazzal az adatmennyiséggel operál ugyanolyan mennyiségű összefüggések alapján mint a humán sofőr.

"A memóriánk kimutathatóan asszociatív, azaz összefüggések rángatják"

Valóban. A "jól működő" MI is hasonlóan (fog) operál(ni); sőt a "valódi" (tanulásképes) MI dinamikusan állítja elő ezeket az asszociációkat -- vagyis ezeket a rendszereket nem "készítik" hanem "növesztik".

"NA már most ezek után vélekedhet valaki úgy, hogy a dolgok "értése" azonos sok összefüggés ismeretével, míg aki sok egyedi eset felsorolásszintű ismeretén operál aránylag kevesebb összefüggéssel (mint a sikeres gépek jelenleg) azt nem tekintjük "értés"-nek."

Ismét: Watsonban nem az az igazán érdekes hogy pl. "tudja" pl. egy pár százezer (millió?) könyv szerzőjét és annak publikációs dátumát, a kiadóját stb. stb., hanem az hogy "megért" egy kérdést ami "áttételesen" utal a könyvre ill. annak szerzőjére.

A Final Jeopardy kérdés a következő volt:

William Wilkinson's "An Account of the Principalities of Wallachia and Moldavia" inspired this author's most famous novel

(végig nagybetűkkel)

A helyes válasz Bram Stoker, aki a "Drakula" szerzője volt.

Mindhárom játékos helyes választ adott; én tudtam hogy a "Drakula" műről van szó, de az asszociatív memóriám Mary Shelley-t dobta fel (aki ugye egy másik gótikus horrorregény, a "Frankenstein" szerzője volt).

Az hogy Wilkinson's írása volt Stoker egyik ihletője, nincs benne a Wikipédiában, sem Stoker sem Wilkinson szócikkénél. Vagy benne volt Watson adatbázisában ez a partikuláris (asszociatív) információ -- amit kétlek --, vagy Watsonnak (minimum) meg kellett "értenie" azt hogy

1) Wilkinson írt valamit
2) ez az írása egy partikuláris geográfiai területről "szól"
3) van egy másik írás (regény)
4) a regény cselekménye egy partikuláris geográfiai területen játszódik
5) a két geográfiai terület átfedi egymást (valamilyen mértékben)
6) ez a területi átfedés nem véletlenszerű hanem az (időben korábbi) egyik "megihlette" a(z időben későbbi) másikat
7) hogy a második írás (regény) a szerzőjének leghíresebb műve volt
8) hogy ez a regény a "Drakula"
9) hogy a "Drakula" szerzője Bram Stoker

Lehet azt mondani hogy az 1, 6 és 7-es pont "megértése" nem feltétlenül szükséges, és hogy a 9-es pont triviális (a regény szerzője benne volt az adatbázisban), de ettől még a teljesítmény ("értés") eléggé tisztességes.

"Ez persze túlmutat a Turing teszten, mert ez már egy white-box értékelése a rendszereknek. Aki ugye támogatja a Turing tesztet az az ilyesfajta hozzáállást nyilván hülyeségnek tartja."

Nem arról van szó hogy a "white-box értékelése a rendszereknek" hülyeség lenne; hanem arról, hogy az ilyen értékelés nem ad választ a kérdésre, ti. hogy mikor "ért" valamit a rendszer, ill. minek alapján mondjuk azt hogy "gondolkodik". Attól hogy két rendszer nem ugyanaz a struktúrájában, a működésének részleteiben ill. az "adat-összefüggés" arányaiban, nem bizonyítja azt hogy az egyik "érti" a kérdéseket, a másik meg "nem érti" -- feltételezve hogy a két rendszer által adott válaszok elégséges mértékben hasonlóak (a kétségkívül "értő" kérdező számára).

Valentino Braitenberg "Vehicles: Experiments in Synthetic Psychology" c. könyve olvasható ill. letölthető PDF-ben erről a címről:

ge.tt/1ivvhQu/v/0

Ebben az igen élvezetes könyvben ezek a kérdések is feszegetésre kerülnek egy neuroanatómus szemszögéből; és mivel "gépekről" van szó benne (legalább is az első felében), sok relevanciája van a MI elmélete és gyakorlata számára (szerintem).
Válasz erre 

szemet 2014.06.21. 06:42:37

@neoteny: Watson kulcsszavakat keres, és óriási adatbázisokon korrelációkat. Tény hogy ezt több egymás követő lépésben is elvégzi, azaz képes több lépéses asszociációs láncot megtalálni.

De a wikipedia is írja: "Watson has deficiencies in understanding the contexts of the clues"

Nagyjából itt meg a köv. 4. oldalon fejtegetik ezt:
www.nytimes.com/2010/06/20/magazine/20Computer-t.html?pagewanted=3&_r=0

A lényeg hogy még nincs különösebben erős algoritmusa a nyelvtan értelmezésre, hanem van százféle párhuzamosan futtatott statisztikai "tipp", és ha történetesen soknak az eredménye összecseng akkor azt elfogadja válasznak.

Az elemzésedről annyit, hogy:

1. en.wikipedia.org/wiki/Dracula tartalmazza a következő mondatot: "Stoker became intrigued by the name "Dracula", after reading William Wilkinson's book Account of the Principalities of Wallachia and Moldavia with Political Observations Relative to Them"

2. Onnan tudom, hogy egy egyszerű kulcsszazavas google keresés:

Wallachia+and+Moldavia+famous+author

esetén a drakula wiki cikk a 2. nem fizetett találat, Vlad Tepes (ami majdnem ugyanaz - Bram Stoker pl. már a fülszövegében is helyet kap;) wikicikke az 1. nem fizetett találat

Annak most nem nézek utánna hogy a Wilkinsonos részek Jeopardy elött vagy után kerültek a cikkekbe - mindazonáltal ha később is - Watson más lexikonokból is dolgozott amiket nem néztem át...

Itt momentán úgy tűnik egy pagerank+kulcsszavak+a kérdés alanyának jó betippelése már elég.

A könyvajánlatot köszönöm, majd ránézek.
Válasz erre 

neoteny · http://word.blog.hu 2014.06.21. 07:21:06

@szemet:

Köszi az NYTimes cikket; olvasom.

"Wallachia+and+Moldavia+famous+author"

Most is tanultam valamit! :)

Igazad van; tévesen kételkedtem.
Válasz erre 

neoteny · http://word.blog.hu 2014.06.21. 08:30:49

@szemet:

"A lényeg hogy még nincs különösebben erős algoritmusa a nyelvtan értelmezésre, hanem van százféle párhuzamosan futtatott statisztikai "tipp", és ha történetesen soknak az eredménye összecseng akkor azt elfogadja válasznak."

Korrekt összefoglalás; én azt hittem hogy nagyobb a szerepe a természetes nyelvi feldolgozásnak, de túlértékeltem annak szerepét.

Persze ettől még mindig létezik az a kérdés hogy ha mindhárom játékos "láthatatlan" lett volna ill. a válaszaikat ugyanaz a beszédgenerátor adta volna és a (mondjuk) 100 fős közönség tippelt volna a játék során minden kérdés után hogy a három közül melyik Watson, mi lett volna az eredmény? A játék végére hányan mondták volna meg helyesen hogy melyik a gép, ill. hogyan alakult volna folyamatában a véleményük erre vonatkozóan?

Sajnos ezt soha nem tudjuk meg. Nem állítom hogy ez egy "szabályos" Turing teszt lett volna (hiszen a "kiértékelők" nem a saját kérdéseiket fogalmazták volna meg), de én nagyon örültem volna egy ilyen adatsornak.
Válasz erre 

szemet 2014.06.21. 09:03:47

@neoteny: "A játék végére hányan mondták volna meg helyesen hogy melyik a gép"

Nehéz lett volna, mert pont nem jön ki a gép gyengéje. Itt ugyanis egy darab legerősebb tippet kell benyögni, és még ha téved is a gép a legerősebb tippje ritkán lehet távoli.

Akkor bukna el ha nem egy szavas válasz kéne hanem egy ötmondatos koherens bekezdés, a gyengéje ugye:
"deficiencies in understanding the contexts"

Itt már könnyebben bekerülnének olyan asszociációk, amik erősek de valamiért egy teljesen más, csak éppen statisztikailag hasonló kontextusból származnak.

Ráadásul 1 szavas rossz válasz esetén van mentség:

félreértette a kérdést, időhiány stb. Olyan válaszra ami nem koherens (két nagyon különböző dolog összekeverése egy válaszon belül) meg kevésbé.
Válasz erre 

szemet 2014.06.21. 09:21:10

@szemet: Mondjuk ha ha 5 mondatos válasz lenne a feladat, akkor könnyen megoldható, hogy ne keverjen össze két egymástól távolabbi területet hanem inkább köteleződjön el egyik mellett - ekkor meg az lesz sokkal látványosabb (az egy szavas válaszhoz képest) ha a rossz mellett köteleződik el.
Válasz erre 

neoteny · http://word.blog.hu 2014.06.21. 10:49:57

@szemet:

"nem egy szavas válasz kéne hanem egy ötmondatos koherens bekezdés"

Valóban: ez egy más problémát képvisel mint ami megoldására Watsont felkészítették. Lényegileg Watson több az egyhez hozzárendelést végez amikor a (helyes) választ kiválasztja a statisztikailag asszociált "szótengerből". Viszont ahhoz hogy értelmesen (relevánsan) "értekezzen" az egyszavas válaszról (öt mondat erejéig), annak valamiféle attribútumait kellene kibányásznia, ami egyrészt egy a többhöz hozzárendelés, másrészt a pusztán statisztikai asszociációk (valószínűleg) nem hordoznak információt arra vonatkozóan hogy mely szavak utalnak "jelentőségteljes" attribútumokra.

Mi a véleményed erről?
Válasz erre 

szemet 2014.07.18. 06:51:20

@ipartelep: "Hogy az MI-vel mi a cél, abba nem divat belegondolni... mi lesz ebből az egészből?"

Kissé off, de erre reagálva.

Egy rendkívül gonosz gondolatkísérlet, ami a Newcomb paradoxon rokona, itt találkoztam vele:

www.slate.com/articles/technology/bitwise/2014/07/roko_s_basilisk_the_most_terrifying_thought_experiment_of_all_time.html
Válasz erre 
Mégsem
Mégsem

Megjegyzés:
Facebook

Filófaktor

Érdekel a filozófia? Szeretsz gondolkodni az életről, a világmindenségről, meg mindenről? Kíváncsi vagy a múlt nagy elméinek gondolataira? Ez a blog segítséget nyújt ahhoz, hogy eligazodj a filozófia tekervényes ösvényein és hogy mindig érdekes és laktató szellemi táplálékra találj.

Keresés

Top 5

  1. Érdekel a filozófia, hogy kezdjek neki?
  2. "Metafizika" - Mit jelent a varázsszó?
  3. Abortusz és etika
  4. Mi az a materializmus?
  5. Mi valójában a filozófia?

Archívum

  • 2015 február (1)
  • 2015 január (4)
  • 2014 december (2)
  • 2014 november (3)
  • 2014 augusztus (2)
  • 2014 július (6)
  • 2014 június (7)
  • 2014 május (2)
  • 2014 április (5)
  • 2014 március (12)
  • Tovább...

Egyéb

Információ

  • A Filófaktorról
Filozófia mindenkinek
süti beállítások módosítása
Dashboard