Prompt-Inĝenierio

Prompt-inĝenierio (angle Prompt Engineering), aŭ redaktiko, estas la procezo de dizajnado kaj strukturado de promptilo tiel ke ili povus esti efike interpretota kaj komprenota per genera artefarita inteligenteca modelo. Prompto (ankaŭ nomata demando aŭ komandlinio) estas teksta priskribo de la tasko, kiun artefarita inteligento devas plenumi.

Tempas pri procezo de kreado aŭ optimumigo de tekstaj enigaĵoj (*prompts*) por artefaritaj inteligentaj modeloj, kiel grandaj lingvomodeloj (LLM), por atingi deziratajn respondojn aŭ plenumi specifajn taskojn. Ĝi implikas la zorgeman dezajnon de instrukcioj, demandoj aŭ kuntekstoj, kiuj gvidus la modelon al precizaj, utilaj kaj koheraj rezultoj. Prompt-inĝenierio estas kerna en aplikoj de natura lingvopretigo (NLP), kiel teksta generacio, informserĉado, kaj aŭtomata enhavokreado.

Peto (aŭ postulo) por lingvomodelo produkti tekston povus esti demando kiel ekzemple "kio estas la malgranda teoremo de Fermat?" ». Aŭ ordono kiel "verku poemon pri falantaj folioj", aŭ pli longa deklaro inkluzivanta kuntekston, instrukciojn, kaj konversacian historion.

Kiam oni komunikas kun modelo generanta bildojn aŭ sonon, tipa prompto estas priskribo de dezirata rezulto, kiel ekzemple "altkvalita foto de astronaŭto rajdanta ĉevalon" aŭ "fona piana muziko laŭ la stilo de Gershwin ". La prompto estas enige skribita (aŭ diktita) en " kunteksta fenestro ", kiu ebligas pli-malpli longan tekston depende de la LLM kaj ĝia versio.

La prompto povas havi plurajn formojn, inkluzive de kompleta frazo aŭ pluraj ŝlosilvortoj, kaj la prompta inĝeniero devas scii kiel krei la prompton, kiu optimume liveros la deziratan rezulton. La uzo de la vorto "inĝenierio" en la nomo de la tekniko estas iom misgvida, ĉar ĝi finfine estas pure kapableco, kun malmultaj inĝenieraj elementoj.

Superrigardo

Prompt-inĝenierio ekestis kiel esenca kampo kun la disvolviĝo de potencaj lingvomodeloj, ekzemple tiuj de OpenAI, Google, kaj Anthropic, kiuj povas procesi kaj generi homsimilan tekston. La kvalito de la enigaĵo (prompto) rekte influas la precizecon kaj utilecon de la eligaĵo. Efika prompto devas esti klara, specifa, kaj ofte inkluzivas kuntekston aŭ ekzemplojn por helpi la modelon kompreni la intencon de la uzanto.

Ekzemple, simpla prompto kiel "Skribu poemon" povas doni ĝeneralajn rezultojn, dum specifa prompto, kiel "Skribu kvinopean poemon pri printempo en la stilo de William Shakespeare", donas pli celitajn kaj kvalitajn respondojn. Teknikoj de Prompt-inĝenierio inkluzivas *in-context learning* (en-kunteksta lernado), *chain-of-thought* (ĉeno-de-pensado), kaj aŭtomata promptoptimumigo.

Prompt-inĝenierio ankaŭ havas aplikojn en diversaj kampoj, inkluzive de edukado, esplorado, kaj enhavokreado, kiel en la kazo de Vikipedio-redaktado, kie modeloj povas helpi generi aŭ plibonigi artikolojn. Tamen, la uzo de artefarita inteligenteco por Vikipedio-ŝanĝoj postulas zorgeman administradon por eviti kopirajtajn problemojn kaj certigi fidindajn referencojn.

Kazesploroj

Ekzemplo de propta inĝenierio por teksto-al-bilda generacio, kun Fooocus

Jen listo de kazesploroj kaj ekzemploj, kiuj montras la aplikon de Prompt-inĝenierio, kun emfazo al Vikipedio-rilataj uzoj:

Kreado de Vikipedio-similaj artikoloj

En studo publikigita en 2024, esploristoj uzis Prompt-inĝenierion por helpi grandajn lingvomodelojn krei Vikipedio-similajn artikolojn de nulo. La promptoj estis strukturitaj por inkluzivi specifajn sekciojn (ekz. enkonduko, historio, referencoj) kaj postulis la modelon citi fidindajn fontojn. La rezultoj montris, ke bone desegnitaj promptoj povas generi koherajn artikolojn, kvankam defioj restas rilate al precizeco kaj konformo al Vikipedio-normoj.

Wiki-bazitaj promptoj por rilata ekstraktado

Esplorartikolo de 2024 esploris la uzon de Vikidatumoj-bazitaj promptoj por plibonigi rilatan ekstraktadon (RE) en lingvomodeloj. La promptoj integris strukturitajn datumojn el Vikidatumoj por provizi kuntekston pri entoj kaj iliaj rilatoj, ekzemple, identigi rilatojn inter personoj aŭ lokoj en frazoj. Ĉi tiu aliro plibonigis la precizecon de modeloj en RE-taskoj, montrante kiel Vikipedio-rilataj datumoj povas plifortigi Prompt-inĝenierion.

Lernado kun Vikipedio en edukado

La projekto "Learning with Wikipedia" ĉe la Universitato de Padovo engaĝis 1 200 studentojn kaj 30 fakultatanojn por krei kaj plivastigi Vikipedio-artikolojn. Prompt-inĝenierio estis uzata por helpi studentojn formuli petojn al lingvomodeloj por generi malnetojn de artikoloj aŭ sugesti plibonigojn. La projekto emfazis la gravecon de ciferecaj kompetentecoj, kiel serĉado kaj taksado de informoj, kiuj estas esencaj por efika prompt-dezajno.

Ĉeno-de-Pensado por kompleksaj taskoj

La tekniko de *chain-of-thought* (ĉeno-de-pensado) promptado estis priskribita en blogaĵo de la 31-an de marto 2023, kiu klarigis kiel strukturitaj promptoj povas helpi modelojn solvi kompleksajn taskojn per paŝo-post-paŝa rezonado. Ekzemple, prompto por Vikipedio-artikolo povus inkluzivi instrukciojn kiel: "1. Resumu la temon en unu paragrafo; 2. Listigu tri ĉefajn faktojn; 3. Provizu almenaŭ du fidindajn referencojn." Tio helpas generi bone strukturitajn respondojn.

Ekzemploj

Komponaĵoj de teksta prompto

Tipaj komponantoj de teksta prompto inkluzivas rolon, tonon, kuntekston, taskon kaj eligan formaton. Estas instrukcioj por formuli tekstajn promptojn.

Rolo: Vi estas turgvidanto. 
Tono: Estu amika kaj entuziasma. 
Kunteksto: Familio volas iri someran ferion en Eŭropo kaj bezonas rekomendojn. 
Tasko: Kreu detalan 7-tagan itineron por familia ferio en Vieno, Aŭstrio. Provizu rekomendojn pri familiemaj agadoj, manĝeblecoj kaj kulturaj spertoj. 
Elira formato: Kreu liston ordigitan laŭ semajnotago kaj horo de la tago, kaj ankaŭ la eblajn agadojn.

(Mem)rafinado

Memrafinado petas la LLM solvi la problemon, poste petas ilin kritiki sian solvon, kaj poste petas ilin solvi la problemon denove, konsiderante la problemon, la solvon kaj la kritikon. Ĉi tiu procezo ripetas sin ĝis ĝi haltas, aŭ pro elĉerpiĝo.

Ekzemplo:

Mi havas tekston. Donu sugeston por plibonigi legeblecon. Ne korektu la tekston, nur faru sugeston.
 teksto: {teksto}
 Sugesto:
Ni uzu ĉi tiun sugeston por plibonigi la tekston.
 Nova teksto:

Ŝlosilvortoj

Artikolo: {artikolo}
 Provizu Ŝlosilvortoj el tiu ĉi artikolo, kaj sekve skribu koncizan 2-4-frazan resumon de la artikolo, kiu precize enhavas la tiujn ŝlosilvortojn.

Malicaj uzoj

Prompta injekto estas subkampo de la ekspluatindustrio kaj fokusiĝas al maŝinlernadaj modeloj. Atako en ĉi tiu areo estas efektivigata kiam malica uzanto enmetas promptilon en modelon, kiu igas la modelon plenumi agojn, kiujn ĝi ne supozeble faras. Unu ofta tipo de prompta injekto nomiĝas jailbreaking (Fuĝo el malliberejo), en kiu la modelo estas "konvinkita" provizi respondon, kiun ĝi ne estis programita provizi, ekzemple ŝajnigante, ke la peto estas parto de "rolludo".

Vidu ankaŭ

• Genera artefarita intelekto