Wysyp nowości do OpenAI: GPT-4 Turbo, GPTs i API Asystentów

OpenAI, znane z innowacji w dziedzinie sztucznej inteligencji, zaprezentowało swoje najnowsze osiągnięcia na wydarzaniu dla programistów. Całość przywodzi na myśl atmosferę klasycznych prezentacji Apple. Pomimo pewnej dozy oficjalności, nieco sztywnych wystąpień i wymuszonych podziękowań dla kolejnych prelegentów, wydarzenie obfitowało w świeże nowości, które są autentycznie przydatne developerom (i nie tylko). Przyjrzymy się bliżej najistotniejszym z tych innowacji. A jest czemu się przyglądać! GPT-4 Turbo, niestandardowe GPT i Asystenci AI to tylko niektóre atrakcje.

GPT-4 Turbo

Pierwszą ciekawą nowością jest GPT-4 Turbo, czyli ulepszona wersja GPT-4. Powiela on schemat znany z GPT-3.5, które też po pewnym czasie zostało upublikowane w wersji Turbo. I trzeba powiedzieć, że nowości w GPT-4 Turbo bardzo przypominają to, co poznaliśmy ostatnim razem.

Kontekst został powiększony z 8K do 128K tokentów, co odpowiada 300 stronicowej książce. OpenAI twierdzi, że poprawiło też kwestię trzymania się kontekstu przy długich odpowiedziać.

Tym razem GPT-4 Turbo ma wiedzę aż do kwietnia 2023, więc dysponuje w miarę świeżymi informacjami. Sam Altman zapewnił, że kolejne wydania będą to na bieżąco aktualizować.

Powiększone zostały limity tokenów, jakie można wymienić z API GPT-4 Turbo. Będzie można to wykorzystać, bo OpenAI znacznie obniżyło ceny w stosunku do GPT-4. GPT-4 Turbo jest tańsze niż GPT-4. 3x dla tokenów promptów i 2x dla tokenów wyjścia. Przy okazji GPT-3.5 Turbo 16Krównież stanie się tańsze, również jeżeli chodzi o modele fine-tuned. Zapowiadają też, że w nadchodzących tygodniach GPT-4 Turbo stanie się o wiele szybsze niż GPT-4. 

W API pojawiły się też nowe opcje, takie jak tryb JSON, który zapewnia, że zwrotki są poprawnym JSON-em. Czy też przewidywalne zwrotki, które będą za każdym razem identyczne, jeżeli poda się seed takiego zapytania.

Poprzez API są dostępne też Dalle 3, TTS, a GPT-4 Turbo jest udostępnione z modułem widzenia. Niedługo dołączy też do nich Whisperer V3, czyli usprawiony model speech-to-text

GPTs

Kolejną ważną nowością są tzw. GPTs. To niestandardowe wersje GPT, przeznaczone dla szczególnego scenariusza. Można je rozszerzyć o dodatkową wiedzę, instrukcje i akcje oraz opublikować by inni mogli z nich korzystać.

Akcje mogą komunikować się z zewnętrznymi zasobami, podobnie jak to było w przypadku pluginów.

Można je budować z użyciem języka naturalnego, nie trzeba do tego wiedzy z zakresu kodowania. OpenAI zbudowało dedykowany kreator do tworzenia nowych GPT.

Co ciekawe twórcy najbardziej popularnych GPTs mają mieć udział w zyskach generowanych przez te modele. Jednak wydaje się, że to wszystko to preludium do Asystentów, jeżeli celem mają być pełnoprawne aplikacje.

Asystenci (wraz z API)

W końcu OpenAI udostępnia opcję tworzenia asystentów AI, którzy umożliwiają proste tworzenie chatbotów. Asystenci wspierają tworzenie osobnych wątków dla użytkowników, pobieranie wiedzy z plików, interpreter kodu oraz wywoływanie zewnętrznych funkcji.

Ma to uprościć całą procedurę tworzenia aplikacji AI. Demo, jakie zaprezentowano na scenie pokazało właśnie takie możliwości. Asystenci pozwalają na interakcję za pomocą tekstu, głosu czy obrazów, nie tylko z modelami AI, ale również ze światem zewnętrznym. To może bardzo uprościć budowanie tego typu aplikacji.

Inne nowości

ChatGPT

Cały event obracał się wokół API, w końcu to wydarznie dla developerów, jednak są też zmiany dla ChatGPT. Zostanie uproszczony interfejs ChatGPT, zamiast dropdowna z różnymi trybami pracy ma być jeden prosty interfejs, który pod spodem rozkmini czego potrzeba.

Tak podobno ma wyglądać nowa, wyczyszczona wersja ChatGPT, jednak na razie nie widzę jej u siebie.

Fine-tuning

Fine-tuning GPT to bardzo udany eksperyment według OpenAI. Dlatego rozszerzają taką opcję na GPT-3.5 Turbo 16K. Są też eksperymenty z GPT-4 Turbo dla organizacji, które najbardziej intensywnie używają obecnie fine-tuningu.

Natomiast dla największych firm uruchamiają program w pełni niestandardowego trenowania modelu. Na razie będzie to bardzo ograniczone, bo nie są to tanie rzeczy i prawdopodobnie w tym programie weźmie udział na razie tylko kilka największych korporacji.

Copyright Shield

Do tej pory OpenAI było bardzo niechętne do ochrony prawnej swoich klientów, o czym też pisaliśmy kilkukrotnie na Bullodgu. Teraz sytuacja się zmienia, dzięki Copyright Shiled - to ochrona prawna na poziomie praw autorskich przy używaniu efektów pracy ChatGPT Enterprise i API. Być może ma to przekonać firmy, że OpenAI jest bezpieczne w większej ilości zastosowań. Przy okazji Sam Altman podkreslił, że korzystając z API i ChatGPT Enterprise Twoje dane nie są używane do trenowania modeli.

Jeżeli masz czas (45 minut, 30 po pominięciu mało istotnych części), to zawsze możesz obejrzeć pełne wystąpienie.

Natomiast tak wygląda nasze podsumowanie najważniejszych nowości, o jakich mówiono na scenie. To całkiem zdecydowana odpowiedź na to, co ostatnio działo się w świecie AI. Dużo mówiło się o zastąpieniu GPT przez mniejsze, ale bardziej wydajne modele. Dzięki nowym możliwościom i zmianom w cenniku to może nie być wcale najbardziej oczywista droga.

W gościnnym występieniu CEO Microsoftu Satyii Nadelli bardzo podkreślał, że firmie zależy na tworzeniu platform. Podobną politykę może mieć OpenAI, bo zdaje się, że dążą do zbudowania środowiska, gdzie można tworzyć pełne aplikacje AI.