Prompt Engineering

Struktura promptu

Jest wiele podejść do tego, jak powinna wyglądać struktura idealnego promptu dla modeli AI. Na podstawie naszych doświadczeń w AIBiz wyróżniamy następujące sekcje, które powinny znaleźć się w każdym promptcie:

1. Rola
   Ustala kontekst i perspektywę, z której ChatGPT ma udzielać odpowiedzi.

   Przykład: "Wyobraź sobie, że jesteś sprzedawcą sprzętu elektronicznego."

2. Zadanie
   Określa główny cel lub misję do wykonania.

   Przykład: "Twoim celem jest zdobycie wiedzy o swojej konkurencji na terenie Polski."

3. Instrukcja
   Precyzuje kryteria sukcesu i oczekiwane rezultaty.

   Przykład: "Na podstawie dostępnych danych stwórz zestawienie sklepów, które mają większy obrót roczny niż firma X."

4. Wynik
   Precyzuje format i strukturę oczekiwanej odpowiedzi.

   Przykład: "Zestawienie powinno mieć formę tabeli z maksymalnie 10 pozycjami, sformatowaną od największego podmiotu do najmniejszego."

5. Przykład
   Podając przykład oczekiwanego wyniku, zwiększasz szansę na otrzymanie jakościowej odpowiedzi.

10 technik pisania promptów

1 -Pisz jasne instrukcje

Modele AI nie potrafią czytać w twoich myślach. Jeśli odpowiedzi są za długie, poproś o krótkie repliki. Jeśli odpowiedzi są zbyt proste, poproś o pisanie na poziomie eksperta. Jeśli nie podoba ci się format, pokaż format, który chciałbyś zobaczyć. Im mniej model musi zgadywać czego chcesz, tym bardziej prawdopodobne, że to dostaniesz.

• Włącz do swojego zapytania szczegółowe informacje, aby uzyskać odpowiedzi lepiej dopasowane do Twoich potrzeb.

• Zasugeruj modelowi, aby przyjął wybraną przez Ciebie rolę.

• Używaj separatorów, aby jasno oddzielić poszczególne elementy twojego zapytania.

• Wymień kroki niezbędne do zrealizowania zadania.

• Zapewnij przykłady.

• Wskaż preferowaną długość odpowiedzi.

2 - Podziel Złożone Zadania

Dobrym zwyczajem jest rozkładanie skomplikowanego systemu na zestaw modułowych komponentów, tak samo należy postępować z zadaniami przekazanymi modelowi językowemu. Złożone zadania zwykle wiążą się z wyższym wskaźnikiem błędów niż zadania prostsze. Co więcej, złożone zadania często można przedefiniować jako ciąg prostszych zadań, w których wyniki wcześniejszych etapów służą do konstruowania danych wejściowych dla późniejszych etapów.

• Użyj klasyfikacji intencji, aby zidentyfikować najbardziej odpowiednie instrukcje dla zapytania użytkownika

• W aplikacjach dialogowych, które wymagają bardzo długich konwersacji, streszczaj lub filtruj poprzedni dialog

• Streszczaj długie dokumenty etapami i rekurencyjnie twórz pełne streszczenie

3 - Pozwól Modelowi "Pomyśleć"

Jeśli poproszono by Cię o pomnożenie 17 przez 28, może nie wiesz tego od razu, ale możesz dojść do tego z czasem. Podobnie, modele popełniają więcej błędów w rozumowaniu, kiedy próbują odpowiedzieć natychmiast, zamiast poświęcić czas na przemyślenie odpowiedzi. Prośba o przedstawienie "łańcucha myślowego" przed odpowiedzią może pomóc modelowi bardziej niezawodnie kierować się ku poprawnym odpowiedziom.

• Zleć modelowi, aby samodzielnie wypracował rozwiązanie, zanim pospieszy się z wnioskiem

• Użyj monologu wewnętrznego lub sekwencji zapytań, aby ukryć proces rozumowania modelu

• Zapytaj model, czy czegoś nie przeoczył w poprzednich próbach

   

4 - Zero-Shot Prompting

W Zero-Shot Prompting, model AI nie otrzymuje żadnych wcześniejszych przykładów, jak radzić sobie z zadaniem. Użytkownik podaje tylko pytanie lub zadanie wraz z danymi wejściowymi.

Przykład promptu:

Tekst: "Właśnie zdałem wszystkie egzaminy!" Klasyfikuj emocję wyrażoną w tym tekście.

W tym przypadku model musi samodzielnie ocenić emocję, opierając się wyłącznie na swoim wcześniej nabytym treningu, nie mając dodatkowych kontekstowych wskazówek dotyczących tego, jak klasyfikować emocje.

5 - Few-Shot Prompting

W Few-Shot Prompting, model otrzymuje kilka przykładów, które służą jako wskazówki, jak radzić sobie z zadaniem przed przystąpieniem do klasyfikacji nowego przykładu.

Przykład promptu:

Przykład 1: Tekst: "To był wspaniały dzień na plaży!" - Emocja: Radość

Przykład 2: Tekst: "Nigdy nie czułem się gorzej." - Emocja: Smutek

Przykład 3: Tekst: "Cały czas na to czekałem." - Emocja: Ekscytacja Tekst do klasyfikacji: "Nie mogę uwierzyć, że to się stało."

Klasyfikuj emocję wyrażoną w tym tekście.

Tutaj model używa podanych przykładów jako kontekstu, który pomaga mu zrozumieć, jakie emocje odpowiadają danym wyrażeniom, zanim podejmie próbę klasyfikacji nowego tekstu.

6 - Chain-of-thought (CoT)

Chain-of-thought (CoT) prompting pozwala na lepsze rozumowanie dzięki podzieleniu procesu na pośrednie kroki. Można to połączyć z few-shot prompting, aby osiągnąć lepsze wyniki w skomplikowanych zadaniach wymagających logicznego myślenia przed odpowiedzią.

8 - Technika “weź głęboki oddech”

Duże modele językowe nie mogą wziąć głębokiego oddechu, ponieważ nie mają płuc ani ciała. Nie myślą i nie rozumują też jak ludzie. To, co nazywamy "rozumowaniem" (a "rozumowanie" jest pojęciem kontrowersyjnym dla niektórych, chociaż jest często używane jako termin fachowy w AI), czerpie z ogromnego zbioru fraz językowych zgromadzonych z książek i Internetu.

Obejmuje to takie rzeczy jak fora Q&A, które zawierają wiele przykładów typu "weźmy głęboki oddech" lub "myśl krok po kroku" przed pokazaniem bardziej przemyślanych rozwiązań. Te frazy mogą pomóc LLM osiągnąć lepsze odpowiedzi lub wyprodukować lepsze przykłady rozumowania czy rozwiązywania problemów z zestawu danych, który został wchłonięty do jego sieci neuronowej podczas treningu.

9 - Tree of Thoughts (ToT)

Tree of Thoughts (ToT) to technika do rozwiązywania złożonych zadań poprzez strategiczne planowanie.

Działa następująco:

• Tworzy drzewo myśli, gdzie każda jest krokiem do rozwiązania.

• Ocenia myśli algorytmami przeszukiwania (BFS, DFS) dla wyboru najlepszych ścieżek.

• Klasyfikuje myśli jako "pewne", "możliwe" lub "niemożliwe", promując właściwe i eliminując błędne.

Przykładowy prompt ToT to:

Wyobraź sobie, że trzech różnych ekspertów odpowiada na to pytanie. Wszyscy eksperci zapiszą 1 krok swojego myślenia, a następnie podzielą się nim z grupą. Następnie wszyscy eksperci przejdą do następnego kroku, itd. Jeśli którykolwiek ekspert zda sobie sprawę, że się myli, w dowolnym momencie, opuszcza grupę. Pytanie brzmi...

10 - Prompt Reframing

To technika polegająca na subtelnej zmianie sformułowań w zapytaniach przy jednoczesnym zachowaniu ich pierwotnej intencji. Metoda ta zachęca model językowy do generowania różnorodnych odpowiedzi, które odpowiadają na pierwotne zapytanie na wiele sposobów.

Jednym z efektywnych podejść jest wykorzystanie synonimów lub przebudowa pytań przy zachowaniu głównego tematu. Takie działanie prowadzi do uzyskania odpowiedzi o różnych niuansach, co jest szczególnie przydatne, gdy poszukujemy szerokiego spektrum pomysłów lub perspektyw.