TLDR; Makala hii inachunguza uwezo wa ubunifu wa maonyesho ya AI katika mifano ya ubunifu wa AI kama DALL·E. Ingawa kwa kawaida inachukuliwa kama makosa katika kujifunza kina, "makosa" haya yanaweza kuzalisha ujasiri wa kisasa wa sanaa. Kwa kulinganisha mawazo ya binadamu na mantiki ya msingi ya AI, kitabu kinauliza kama uongo wa AI unaweza kweli kuwa aina mpya ya ubunifu. ya hali ya hewa Maelezo ya mifano ya AI Mafunzo ya kina Ujuzi wa Kiufundi What Does It Mean for AI to “Hallucinate”? Nini maana ya “Hallucinate”? Maneno ya Kwa mujibu wa Oxford Advanced Learner’s Dictionary, hali ya hali ya hewa ni: ya hallucination 
 
 Ukweli wa kuonekana kuona au kusikia mtu / kitu ambacho hakutoa, hasa kwa sababu ya ugonjwa au madawa ya kulevya. Ukweli wa kuonekana kuona au kusikia mtu / kitu ambacho hakutoa, hasa kwa sababu ya ugonjwa au madawa ya kulevya. Kwa maneno mengine, maonyesho ya kawaida yanahusishwa na ufahamu wa uwongo - kitu ambacho kinapaswa kuogopa au kurekebishwa. Katika ulimwengu wa AI ya generative, maana haina tofauti sana.Kama LLM (Mfano wa Lugha Kubwa) kama ChatGPT au mfano wa AI ya generative kama DALL-E inasemekana kuwa "halucinate," inamaanisha imekuwa na uzalishaji. Matokeo ya hili ni makubwa: inaonyesha kwamba hatuwezi kamwe kuamini kikamilifu mfano. hatari ya uwezekano? ukweli usio na uhakika, ushauri hatari, au programu iliyojeruhiwa. Maelezo ya uongo au uongo Maelezo ya uongo au uongo When Hallucination Goes Too Far Wakati hali ya hali ya hewa inakwenda mbali sana Hebu tuanze na upande wa giza. Fikiria wewe ni mipango ya jioni ya kimapenzi katika mji ambao haujawahi kutembelea. Unahitaji ChatGPT kupendekeza mgahawa na kuchagua kutoka orodha ya ahadi ya maeneo. Lakini wakati wewe kuja - wote mavazi up - unajua mgahawa haina kuwepo katika eneo fulani. Zaidi ya hayo, haina kuwepo katika eneo lolote. Huu ni mfano mzuri, lakini ni mfano wa kutosha. Sasa angalia matukio zaidi ya uharibifu: 
 
 
 
 
 Maelezo ya uongo ya matibabu husababisha utambuzi usio sahihi na matibabu. Ufafanuzi wa kihistoria ambao umepoteza mwanafunzi shahada yao. makosa ambayo huathiri mfumo mzima. Kuendesha gari ya kujitegemea kwa sababu ya tafsiri mbaya. AI hallucinations sio tu madhara ya upande wa fikra; wanaweza kuwa na . real-world consequences The Pentagon That Wasn’t Pentagon ambayo haikuwa Miaka miwili iliyopita, akaunti ya Twitter iliyotambuliwa (sasa X) ilichapisha Picha hiyo ilionyesha wingu la upepo lililopo karibu na jengo lililokuwa na sura kama hiyo. Tweet hii ilizidi kuwa virusi na ilisababisha majibu ya haraka ya soko - Dow Jones ilipungua pointi 85 katika dakika nne tu. Picha ya mlipuko wa Pentagon Hapa ni pickle - picha ilikuwa bandia. Hapa ni pickle - picha ilikuwa bandia. Picha inaweza kuundwa na AI, na mlipuko haujawahi kutokea. . the financial damage had already been done Haijulikani kama ilikuwa mwaliko wa binadamu uliotengeneza picha hiyo au hallucination ya mfano, lakini kwa njia yoyote matokeo yalikuwa sawa. When Bots Make Up Policy Wakati bots hufanya sera Hivi karibuni zaidi, Udhaifu ulifuatia - watumiaji walilalamika, wengine hata waliondoa usajili wao. Bot ya msaada wa AI ya Cursor iliwaambia watumiaji kwamba chombo hicho hakitaweza tena kutumika kwenye kompyuta moja Kulikuwa na tatizo moja tu: . it wasn’t true Mkurugenzi Mtendaji wa Cursor baadaye alibainisha: "Hatuna sera hiyo. bila shaka unaweza kutumia Cursor kwenye mashine kadhaa." nani alikuwa na wajibu, unauliza? "Kwa bahati mbaya, hii ni majibu yasiyo sahihi kutoka kwa bot ya msaada wa AI ya mbele." Hivyo, kimsingi, AI alikuwa amefundisha sera nje ya hewa nyembamba. The Courtroom Catastrophe Katastrofa ya Mahakama ya Labda mfano maarufu zaidi: t Mfano wa kutaja Wanasheria, bila kujua, waliwasilisha kwa hukumu ya shirikisho. matokeo? vikwazo, adhabu, na aibu ya umma. wapi wanasheria walitumia ChatGPT kusaidia kuandika barua ya kisheria completely fabricated legal cases Mahakama ilisema kuwa walikuwa "kuacha majukumu yao" na waliendelea kudumisha maneno ya uongo hata baada ya kuulizwa. Can a Hallucination Be… Good? Je, hali ya hali ya hewa inaweza kuwa... nzuri? Mifano hii inathibitisha uchunguzi mmoja: Kila output inapaswa kuthibitishwa mara mbili, bila kujali jinsi ya kuonyesha ujasiri na ujasiri. AI cannot be trusted blindly Je, unaweza kumtegemea mwanadamu kabisa? Je, unaweza kumtegemea mwanadamu kabisa? Na vipi ikiwa tunaangalia hallucination kutoka kwa mtazamo mwingine? Hiyo ni wakati nilipokumbuka kitu cha kuvutia. Mmoja wa akili za maono zaidi katika historia ya teknolojia - mtu ambaye kwa kweli alisaidia kuunda ulimwengu tunaoishi - pia alijulikana kwa kuchukua hallucination. Steve Jobs, mwanzilishi maarufu wa Apple, hutoa hadharani dawa za akili kama LSD kwa kupanua mawazo yake ya ubunifu. Jobs hakuongozwa na maagizo - alikuwa akiongozwa na mawazo. Upendo au chuki yake, hakuna mtu anayeweza kuzuia kiwango cha athari yake. hakuunda tu bidhaa; alizunguka ukweli ili kufanana na mtazamo wake. Na ikiwa ufahamu uliobadilishwa ulikuwa na jukumu katika mchakato huo, je, hatupaswi kufikiri tena nini tunamaanisha wakati tunasema wazo - au picha - ni "halucinated"? Jobs, LSD, and Creativity Kazi, LSD na ubunifu Steve Jobs hutoa ufahamu wa wazi wa mafanikio yake ya ubunifu kwa uzoefu wa psychedelic. Yeye anasema kuwa: Kazi ya Steve Jobs 
 
 "Kuwa na LSD ilikuwa uzoefu wa kina, moja ya mambo muhimu zaidi katika maisha yangu. LSD inaonyesha kwamba kuna upande mwingine wa sarafu, na huwezi kukumbuka wakati inachukua, lakini unajua. "Kutumia LSD ilikuwa uzoefu wa kina, moja ya mambo muhimu zaidi katika maisha yangu. LSD inaonyesha kwamba kuna upande mwingine wa sarafu, na huwezi kukumbuka wakati inachukua, lakini unajua. (Kifungu cha 37: “Mchakato wa kuondoka”) Ikiwa hallucination inaweza kusaidia binadamu kuona ulimwengu tofauti, AI hallucination inaweza kutumikia lengo moja? When Hallucination Becomes a Creative Compass Wakati hali ya hewa inakuwa busara ya ubunifu Je, hali ya hali ya hewa, ikiwa imewekwa katika mazingira sahihi, inaweza kuwa zaidi ya udhaifu tu? Katika maeneo ambapo usahihi ni ya sekondari kwa maono, kama vile sanaa, hadithi, au kubuni, labda hatutazama bug, lakini kipengele kisichotarajiwa. Imani ya , Nilifuatilia jinsi hali ya DALL-E ilivyoitwa hallucinations ilivyotengeneza sketches za watoto zilizo nyembamba katika maonyesho ya kuvutia, yenye utendaji kamili. AI ilihusisha mahali pa ukweli, lakini na hisia - kutafsiri badala ya kuiga. Katika makala yangu ya awali Lakini tunawezaje kwenda zaidi? Lakini tunawezaje kwenda zaidi? Kama msanii, najua uzito wa kiini cha ubunifu. Inashuka kimya, kisha inachukua muda mrefu kuliko inapaswa. Jinsi zaidi unajaribu kulazimisha ubunifu, mawazo yako yanaendelea kurudi kwenye mifano sawa ya kawaida - salama, inawezekana, na isiyo na mwongozo. Unatafuta Pinterest kwa masaa, unatafuta mwanga, lakini akili yako tu inaendelea kurudi nyuma kwa mambo ambayo tayari yameonekana. Nini kama generative AI sio tu chombo, lakini aina ya Si kwa kubadilisha mawazo ya binadamu, lakini kwa kuharibu. ili kuonyesha njia hatuwezi kwenda peke yetu. Labda, katika nafasi kati ya usahihi na makosa, tunaweza kupata kitu bora: dawa ya ubunifu surprise. Logic Is Your Enemy Logic ni adui yako Mawazo yetu yanahifadhiwa kwa . Wakati sisi kuona ngome, sisi kufikiria Princess. mbwa? pengine kukimbia mpira. mtoto mdogo? kukamata nyoka. Ufuatiliaji Utambulisho huu wa moja kwa moja wa mifano ni muhimu sana katika maisha ya kila siku - husaidia kusafiri ulimwenguni kwa haraka na kwa ufanisi. ndani ya moyo wetu. sanduku kwamba uwezo wetu wa ubunifu. boxes limit The Categorisation Trap: Your Brain Loves a Story Maelezo ya picha: Moyo wako unapenda hadithi Hebu tuangalie kadi zifuatazo: Sasa fikiria kwamba nimewaalika kukusanya kwa makundi matatu sawa. akili nyingi zinaona hivi mara moja: 
 
 
 
 Mbingu ya usiku na mwezi, wingu, na nyota Siku ya sherehe ya chai na meza, kipande cha keki, na labda chai ya chai Mti na nyoka, mti, na shaba Unaweza kuongeza tofauti - labda fox yako ni sniffing fungus, au labda kama wewe ni ubunifu zaidi kuliko mtu wa wastani, ni kukaa karibu na moto wa kambi, grilling yake juu ya shaba. Mtazamo wetu unakuja ndani ya mfumo. we still stick to the script Na wakati kila mtu anafanya kazi kutoka mfumo huo ... kipekee hufa kidogo. Breaking the Context (on purpose) Kuondoa mazingira (katika lengo) Sasa tutafanya hivyo. Hebu tuchunguze yale yaliyotarajiwa na tuchunguze hisia zetu za mantiki nje ya dirisha. Piga picha ya kundi hili badala yake: Hebu changamoto mantiki kwa ajili ya ubunifu usio na mipaka. 
 
 
 
 
 
 A moon 
 
 A fox 
 
 A table Moyo wako umefungwa tu, sivyo? Unaweza uwezekano hauwezi kuunda picha. Au kama ulifanya, ilihisi kutoweka, ya ajabu, hata isiyofaa. Je, unajua kitu kuhusu Kibanda kama historia yake, uenezi au maendeleo yake? Badala yake, hebu tuonyeshe makundi yafuatayo: Na sasa, hebu tufurahie mawazo yasiyo na mipaka ya DALL-E 3. Starts Celebrating Birthday with a Mushroom Cake Kuanza kusherehekea siku ya kuzaliwa na keki ya moshi Tree Drinking Tea inside a Cloud Mti wa kunywa chai ndani ya wingu Fox and Moon Tea Party Mkutano wa Fox na Moon Tea Free from Human Logic Uhuru wa mantiki ya binadamu DALL-E alikuwa na uwezo wa urahisi wa kuchanganya dhana ambazo hazijawahi kutokea katika ulimwengu halisi (halucinations). Kwa nini kuna tofauti kubwa kati ya akili zetu na mawazo yake? Mwanadamu ana tabia ya kuzingatia msingi wa Tunapoulizwa kufikiria tukio linalohusiana na mwezi, fox, na meza, ubongo wetu unajaribu Tunahitaji hadithi. akili zetu kutafuta mantiki, mazingira, au metafora, na wakati hatuwezi kupata moja, mara nyingi tunashindwa au kuacha. Si kwa randomness. meaning, coherence, and lived experience make sense of the combination optimised for relevance DALL-E, kwa upande mwingine, haina kutegemea kumbukumbu ya kibinafsi au mantiki ya linear. Kwa hiyo, kuonyesha kwa wengi wao ni isiyo ya kawaida au hata surreal. Hivyo wakati unapotaka na mambo yasiyo na uhusiano kama mwezi, fox, na meza, haina shaka au kuuliza kama uhusiano "una maana." Jinsi ya kuonekana kwa vitu hivi Hata hivyo, kwa njia ya moja kwa moja. billions of images and captions countless visual combinations - statistical patterns together, near each other, or in similar visual contexts Kwa maneno mengine: 
 
 
 Watu wanahitaji utulivu. Dall-E inahitaji tu uhusiano. Na hii ndiyo nguvu yake: kwa kuwa huru kutoka kwa mahitaji ya binadamu ya mantiki au ufuatiliaji wa ndani, DALL-E inaweza Kila kitu bila kujali mwenyewe. confidently generate the absurd, the poetic, or the beautifully strange - A Human’s Muse Muzi wa binadamu Tumefundishwa kuwa na hofu ya hallucination - kwa haki hivyo katika maeneo mengi. Katika dawa, sheria, historia, na mifumo muhimu ya usalama, AI inapaswa kudumishwa kwa kiwango cha juu cha ukweli. Lakini katika sanaa, kubuni, na mawazo? sheria ni tofauti. "Hali" yenyewe ambayo inafanya AI isiyo ya kuaminika kama chanzo cha ukweli inaweza kuwa kile kinachomfanya kuwa yenye nguvu kama chanzo cha ukweli. Hallucination, katika mikono ya haki, inakuwa kitu kingine kabisa: . creative companion a spark Wakati DALL-E "kuelewa vibaya" fox, mwezi, na meza, haina kushindwa - ni Inawaalika kuachana na mantiki yetu, kuona kile kinachotokea wakati tunapoacha hadithi na kukubali uwezekano. dares Athari hii inaweza kutibu upungufu wa msanii kwa kuwasaidia akili yetu kupunguza mazingira na mantiki, inaweza kuongeza ubunifu na kuzalisha mawazo ambayo inaweza kuwa nje ya uchunguzi wetu. Hivyo labda swali halisi sio "Tunaweza kuzuia AI kutoka kwa hallucinating?" 
 
 Labda ni: Tunaweza kujenga nini wakati tunaruhusu ndoto? Labda ni: Tunaweza kujenga nini wakati tunaruhusu ndoto? Kuhusu Mimi Kuhusu Mimi Mimi ni Maria Piterberg - mtaalamu wa AI ambaye anaongoza timu ya programu ya Runtime huko Habana Labs (Intel) na msanii wa jumla wa kitaaluma anayefanya kazi katika vyombo vya jadi na digital. Mimi ni maalumu katika mifumo ya mafunzo ya AI ya ukubwa, ikiwa ni pamoja na maktaba ya mawasiliano (HCCL) na ufanisi wa runtime.

This story contains new, firsthand information uncovered by the writer.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch before making any investment decisions or decisions regarding your health or security. (Do not regard any of this content as professional investment advice, or health advice)

Read My Stories

Sauti hii imetolewa katika lugha asilia ya hadithi!

Ndefu sana; Kusoma

Boost your HackerNoon story @ $159.99! 🚀

Karibu kwenye Makumbusho ya Hallucinations

About Author

MAONI

HANG TAGS

MAKALA HII ILIWASILISHWA NDANI

Related Stories

A PENDENT WORLD

Details of the Aerial Voyage.—Kennedy silenced

Sweet Security Unveils First Unified Detection And Response Platform

#ellenBrain Turns a Long Weekend Into: HackerNoon Swag Around the World

A PENDENT WORLD

Details of the Aerial Voyage.—Kennedy silenced

Sweet Security Unveils First Unified Detection And Response Platform

#ellenBrain Turns a Long Weekend Into: HackerNoon Swag Around the World

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps