Kompletní přehled: OpenAI GPT a implementace v .NET

Historie a souvislosti (OpenAI & Microsoft) Jak jsem již naznačil, Microsoft patř v oblasti AI mezi průkopnky a v poslednch letech ns poměrně dobře zsobuje různmi technologiemi. Platformu pro strojov učen spustil veřejně již v roce 2015, nicmně bez velkho množstv dat pro běžnho Karla vvojře nebyla přliš užitečn. Situace se postupně zlepšila, protože Microsoft řadu natrnovanch modelů zpřstupnil vvojřům v rmci Azure Cognitive Services. Obyčejn Azure Face API napřklad dokzalo z fotografie určit objekty, osoby a jejich pohlav, věk i emoce. Od roku 2019 Microsoft zroveň kooperuje se společnost OpenAI. Zkladem spoluprce je zejmna poskytnut vpočetnho vkonu ze strany Microsoftu skrze platformu Azure. Začtkem roku 2023 Microsoft oznmil rozšřen spoluprce s OpenAI. Pro vvojře na Microsoft platformě je to dobr zprva, protože k GPT mme přstup jak skrze Azure OpenAI Service, tak skrze produkty jako Github Copilot. O tyto služby nyn vzrostl zjem a protože "AI" nyn firmy hodně zajm, Microsoft v rmci konference Inspire oznmil nov nzvy cel kognitivn smečky služeb (shrnut zde). Nově zde tedy mme Azure AI services. Přchod GPT 4 a vliv na business Využit AI osobně kategorizuji do oblast: text, zvuk, grafika a video. Mezi oblastmi mme i různ spojky (napřklad text na zvuk a naopak). Oblast textu je zpravidla nejjednodušš, vpočetně nejmně nročn, nejlevnějš a nejpřstupnějš. Prvě textu se věnuji v tomto člnku. Zkladnm (a ne jedinm) reprezentantem je Generative Pre-trained Transformer (GPT), kter byl v roce 2018 představen společnost OpenAI. Jedn se o systm uměl inteligence postaven na modelu zpracovn přirozenho jazyka (NLP). Chovn těchto modelů je ovlivněn skrze parametry, kter se uč z dat během trnovn modelu a maj kritick vliv na kvalitu vsledků generovn. Čm vce parametrů a dat, tm lpe natrnovan model. Pro srovnn: GPT-1, 2018 m 117 milionů parametrů GPT-2, 2019 m 1.5 bilionů parametrů GPT-3, 2020 m 175 bilionů parametrů GPT-4, 2023 m 100+ trilionů parametrů Doplňuji, že počty parametrů se dle různch zdrojů nepatrně liš a hodnota pro GPT-4 byla dokonce ze strany OpenAI vyvrcena. Z počtu parametrů je zřejm, jak velk kvalitativn skoky ve vstupech jednotliv verze GPT přinš. Na grafu jsem musel použt logaritmick měřtko. GPT 3.5 Turbo, kter byl zpřstupněn v uplynulm roce a GPT 4 ze začtku roku 2023 (s omezenm přstupem) si zskal velk zjem veřejnosti. Nov přerozdělovn trhu Aneb od digitln přes chytr až po AI Firmy vid v AI potencil a implementace uměl inteligence do současnch produktů bude pro business naprosto zsadn. Ať už jsou nyn segmenty trhu rozdělen jakkoliv, implementace vs. ignorace AI může situaci na trhu radiklně změnit. Nejjednodušš je začt prvě s GPT 3.5/4 a najt pro tento model využit v podnikn. Zde bych se rd pozastavil. Nejen GPT, ale obecně AI z mho pohledu neřeš ždn reln problm. Nen to něco, bez čeho bychom nedokzali existovat a v mnoha přpadech nm ani nepomůže. Napřklad českmu zdravotnictv by dle mho nzoru pomohlo předevšm soustředit a systematicky sdlet data mnohem vce než uměl inteligence sama o sobě. Kde nejsou data, tam pšenka nekvete a je plně jedno, zda použvme statick kd nebo dokonal model. AI ale přinš přležitosti. Pokud bychom měli v dan oblasti dostatek dat pro trnovn a tž dostatek vstupů pro vyhodnocen (napřklad komplexn zdravotn kartu osoby), znamenal by AI naprost průlom. Ostatně z tohoto pohledu by AI mohlo řdit i cel stt a dost možn to tak v budoucnu bude. Ale zpět do současnosti. Dnes žijeme v komercializovanm světě a prodejci ns budou chtt přesvědčit, že dosavadn produkty bez AI jsou bezcenn šrot a že v zsadě všechno budeme muset nahradit něčm s přvlastkem AI. Ostatně jsme to sam zažili v rmci digitalizace (digitln hodinky a digitln vhy) nebo "smartizace" (chytr hodinky a chytr vhy). Nyn ns ček "aizace". Tměř jistě vzniknou specializovan profese, kter budou hledat čistě jen business přležitosti pro aplikaci AI do stvajcch produktů. Jak to bude vypadat v praxi? Napad mě: při vytvřen reklamn kampaně nm aplikace rovnou navrhne obsah AI vha odešle data do cloudu a na zkladě AI dostaneme různ doporučen CRM systm rozpozn naše chovn a automaticky napřklad provede kony zpravodajsk portl člnek zkrt nebo prodlouž podle profilu čtenře hudba bude vznikat personalizovan (tempo, rytmus, styl, nstroje, dlka, nlada) filmy si nebudeme vybrat ale generovat na zkladě přn nepřtel v hrch "navnmaj" naše chovn a budou ns vce překvapovat auto nm doporuč na určitm seku zpomalit, protože to od rna dělaj jin řidiči na telefon pošleme textovou zprvu a druh straně se zobraz nš mluvc avatar Řada "npadů" už pravděpodobně existuje buď bez AI nebo někde v laboratoři. Ale nejsou ještě tolik rozšřen, protože prce s obrazem nen levn a instantn. Generovat video stoj čas nebo vpočetn vkon a dokud někter npady nefunguj v tměř relnm čase, nejsou pro business přliš zajmav. Mty o AI a reln hrozby Považuji za důležit zdůraznit a vyvrtit někter mty, kter jsou z dosavadnho textu asi jasn. AI ns nepřiprav o zaměstnn. Naopak dky AI vzniknou nov specializovan profese (stejně jako tomu bylo vždy doposud). Napřklad weby už nevytvř jeden webmaster, ale destky specialistů. Budeme potřebovat lidi, co AI budou vytvřet, hledat uplatněn AI v businessu, budou provdět integrace do aplikac a samozřejmě analzu. Jen formulace sprvnho dotazu do Chat GPT je celkem věda a zasloužil by si part-time. Uměl inteligence vstupuje do cel řady profes a je v nejlepšm zjmu zaměstnanců, aby se s tm naučili žt. Je to nicmně jen inovace a stejně jako v minulosti plat, že "buď se novm trendům přizpůsobš, nebo přestaneš bt na trhu prce zajmav". Asi jako kdyby se o prci topenře uchzel někdo, kdo m problm s plastovma trubkama a odmtal si koupit nov nřad. Už z principu fungovn je tak jasn, že AI neznič lidstvo a pokud ano, bude to v době dalek, až bude AI fungovat zcela jinm způsobem než je tomu nyn. Kartami může zamchat obecn uměl inteligence o kterou usiluje i zmněn OpenAI. Kdybych si chtěl představit cestu k destrukci lidstva, bylo by to možn prvě skrze důvěru v AI a přenechn ji cel řady kompetenc, jako je již zmněn řzen sttu nebo určitch čst průmyslu. Pořd se ale bavme o technologii, kterou můžeme metaforicky "vypojit ze zsuvky". Ale nen potřeba ani AI glorifikovat, protože ns nespas a nezměn lidstvo k nepoznn. Bezesporu přinese změny, bude užitečn v akademick vědě a pomůže napřklad s vvojem lků nebo v oblasti průmyslu. To potěš srdce každho, kdo m pocit, že genetickho inženrstv je na světě stle ještě mlo. Na druh straně AI přinš i sv problmy a hrozby. Nejsou existenciln, ale přesto ns budou trpit. A to hodně. Mně osobně to děs zejmna ve vztahu k bdn informačn a technick gramostnosti lid a zastaralmu systmu vzdělvn ve světě. Jinak bych nad tm asi mvnul rukou a souhlasně přikvl expertům, kteř tvrd, že mnou nže popsan problmy už tu stejně v určit mře jsou. Osobně rizika spojen s AI dělm do tř kategori. Bl zna - prvn kategorie je přirozen pro všechny inovace. Už skutečnost, že budeme nahrazovat dosavadn produkty novmi znamen určit ekologick dopady. Dost věc se zbavme, abychom uvolnili msto novm. AI navc bude stle nročnějš na vkon a ten nm zajišťuj opět stroje, jejichž provoz nen bez ztěže životnho prostřed možn. Našli bychom tisce podobnch blch hrozeb. Už skutečnost, že se zaměstnanci mus učit dělat věci jinm způsobem může bt pro někoho frustrujc. AI tedy bude mt vliv na společnost jako celek. Asi ne zcela měřiteln, ale připrav ns o komfort. Už tm, že budeme přemšlet o nhradě chytr vhy za tu "aizovanou". Je to ale v zsadě mal daň v porovnn s přležitostmi, takže pojďme nad tm mvnout rukou. Šed zna - druh kategorie už by ns měla znepokojovat vce. I zde se můžeme poučit z minulosti. AI se stane pohonem mnoha aplikac, kter nm budou doručovat zase clenějš reklamu. Pravděpodobně se stane reklama vce personalizovan (šit na mru každ osobě). Na chatovac aplikaci se budeme seznamovat s robotem, aniž bychom to tušili. Vzniknou dalš chatovac aplikace jako Chat GPT, kter budou populistick, extrmistick nebo konspirativn. Pro představu se můžete podvat na můj experiment s chatbot konspirtorem. Když už někdo bude ve svch produktech chtt AI použt, bude zkrtka hledat ne zcela čestn cesty, jak doshnout svch clů. V zsadě nic nezkonnho. AI je dalš dvousečn zbraň, se kterou můžeme krjet papriky nebo uřezvat hlavy. Uff. Čern zna - konečně třet kategorie představuje zsadnějš problm. Zejmna v kombinaci s nzkou technicko-informačn gramotnost lid. Pokud je dnes někdo schopen odevzdat přstup k bankovnm čtům neznm osobě, to sam se bude dt ve větš mře a v mnohem sofistikovanějš podobě. Možn se Vm v telefonu ozve znm hlas vaš babičky, kter potřebuje rychle poslat penze na opravu domu. Zde už stojme mimo zkon a AI představuj ve špatnch rukch silnou zbraň proti poctivm lidem. Je to vysok daň za přležitosti, kter nm AI přinš. Šed a čern hrozby by bylo možn do jist mry eliminovat, kdybychom se pokusili použit AI obecně regulovat. Nemuselo by se přitom jednat o komplexn regulaci, ale pouze o deklaraci určitch zsad. Když ale vidm nekonečnou diskusi na rovni EU, chpu, že cesta k regulaci by byla přliš dlouh a na jejm konci by byla z pohledu rozvoje AI spěšn jen Čna a Spojen stty. Evropa si nakonec pravděpodobně vezme ode všeho něco. Tedy budeme mt pozdě zaveden a nefunkčn regulace a minimum inovac v oblasti uměl inteligence. Když už znme vše podstatn o AI a historii GPT, dospějeme k jedinmu zvěru. Nen na co čekat. Jsme zase na startovn čře. Jako vvojři musme vzt do rukou lopaty a začt prosvat bajty. Implementace GPT Z pohledu vvojře na Microsoft platformě vidm dvě cesty implementace, kter jsou vcemně rovnocenn: přm implementace GPT skrze OpenAI API lt;li>implementace GPT pomoc Azure OpenAI Service Jako vhodu pro bod (1) vidm rychlejš přstup k novm modelům. Napřklad přstup k GPT 4 jsem zskal už před tdnem a u Azure OpenAI stle čekm (ždno ve stejn den). Vhoda pro bod (2) je z mho pohledu šetrnějš uchovn dat (Microsoft je transparentnějš). Pro obě cesty existuj SDK v podobě NuGet balčků. Azure.AI.OpenAI OpenAI Zde je vtězem (2), protože Microsoft nabz i v době psan člnku pouze NuGet balček v beta6 verzi. Během mho zkoušen (beta5) navc Microsoft balček nepodporoval IAsyncEnumerable, takže vypisovn vsledků nen uživatelsky tolik přvětiv. Implementace GPT krok za krokem Udělal jsem video, ve kterm implementaci ukazuji krok za krokem. Doporučuji si vytvořit novou aplikaci a cel postup si vyzkoušet. Vvojřsk minimum Z implementace je patrn, že jako vvojři toho moc k řešen nemme. V rmci komunikace zkrtka pošleme dotaz na API a zpracujeme odpověď. V idelnm přpadě s využitm rozhran IAsyncEnumerable. Pokud ho ještě nepoužvte, podvejte se na toto video, kde využit vysvětluji v praxi. Pojďme tedy na jedin tři oblasti, kter si ždaj vvojřskou pozornost: Volba modelu - když zvolme model GPT 3, dostaneme za nižš poplatky rychlejš, ale mně přesn vsledek. Jako zlat standard lze považovat GPT 3.5 Turbo. Pro lepš vsledky za cenu pomalho generovn a vyššch nkladů volme GPT 4. Nastaven modelu - zde je klčov přesnost a kreativita. Buď dme modelu větš volnost a dostaneme zajmavějš vsledky, nebo ho trochu přiškrtme a vsledky budou určitějš. Prompting - nakonec to nejtěžš. Prompt engineering je totiž kriticky důležit vstup, na zkladě kterho dostaneme vsledek. Překlep, špatn formulace nebo změna jednoho slova m na vsledky zcela zsadn vliv. Zde jako vvojři strvte zcela největš množstv času. A s updatem a novou verz modelu budete vždy na začtku. Zvěr Abych byl stylov, tak zvěr za mě napsal GPT-3.5. Microsoft je průkopnkem v oblasti AI a poskytuje různ technologie pro strojov učen. Spolupracuje s OpenAI a umožňuje přstup k natrnovanm modelům skrze Azure Cognitive Services. Zjem o AI roste: Zjem o AI se zv#253;šil, a proto Microsoft oznmil nov nzvy svch kognitivnch služeb jako Azure AI services. Generative Pre-trained Transformer (GPT) je klčovm nstrojem v oblasti AI pro zpracovn přirozenho jazyka. Jeho spěšnost zvis na množstv parametrů a dat, kter jsou použity během trnovn modelu. AI m potencil a implementace do současnch produktů může mt zsadn dopad na business. GPT 3.5/4 je vnmn jako dobr začtek pro začleněn AI do podnikn. Někter očekvn ohledně AI jsou nadhodnocen. Nen to univerzln řešen a nevyřeš všechny problmy. Někter oblasti, jako zdravotnictv, vyžaduj spše sdlen a systematickou prci s daty než pouh zaveden AI. Komercializace AI může vst k nadsazenm prodejnm taktikm. AI nepřiprav lidi o zaměstnn, naopak vytvoř nov specializovan profese. AI nem schopnost zničit lidstvo a bude užitečn v mnoha oblastech, ale nen univerzlnm řešenm pro všechny problmy. Rozvoj AI bude mt ekologick dopady způsoben vyššmi nroky na vpočetn vkon. AI tak ovlivn společnost a způsob, jakm lid pracuj, a může narušit pohodl, kter jsme zvykl. AI bude použvna pro clenějš reklamu a vzniknou aplikace s potencilem šřit populismus, extrmismus a konspirace. Kombinace AI a nzk technick gramotnosti může vst k podvodům a zneužit AI vytvořenho s clem podvdět a okrdat lidi. Eliminace hrozeb by vyžadovala regulaci použit AI, což však může bt obtžn. Je důležit, aby se lid s AI seznmili a začali pracovat s touto technologi.

projít na článek

Napojení na OpenAI a ChatGPT za 30 minut

Jak se napojit na OpenAI a vytvořit jednoduch chat založen na modelu GPT? Ukžeme si jednoduchou konzolovku, kter si bude s OpenAI API povdat. Odkazy k videu https://openai.com https://github.com/OkGoDoIt/OpenAI-API-dotnet Vvojřsk novinky Dotnet News h

projít na článek

Desatero úspěšné implementace BIM do praxe z pohledu manažera (1-5)

Základní otázky před začátkem implementace BIM ve vaší firmě (první část)

projít na článek

Desatero úspěšné implementace BIM do praxe z pohledu manažera (6-10)

Základní otázky před začátkem implementace BIM ve vaší firmě (pokračování, závěr)

projít na článek

Implementace normy ISO 50001 ve veřejné sféře

DEA Energetická agentura, s.r.o. ve spolupráci s ITC - Institut pro testování a certifikaci a.s. - člen CQS a se společností TESCO SW a.s. připravila pro veřejnost publikaci Implementace normy ISO 50001 ve veřejné sféře.

projít na článek