Da li se isplati fino podešavanje GPT-2? Na ICCSA 2022

Da li se isplati fino podešavanje GPT‑2? Na ICCSA 2022

Objavljeno u Lecture Notes in Computer Science, tom 13380: „Fine-Tuning GPT-2 to Patch Programs, Is It Worth It?“ (Lajkó, Horváth, Csuvik i Vidács).

Podataka za treniranje automatskog popravljanja programa ima malo i skupo ih je pripremiti, pa smo GPT-2 ocenili i bez dodatnog treniranja i posle fino podešavanja, na 1.559 JavaScript isečaka koda. Fino podešen model je skoro svaki put pisao sintaksno ispravan kod, dok model bez fino podešavanja nije imao deo tih prednosti.

Rad: na stranici izdavača

Planirate AI funkcionalnost?

Gradimo proizvode zasnovane na jezičkim modelima tako da su provera, evidentiranje i ljudski pregled deo plana od prvog sprinta – a većina saradnji počinje besplatnim jednonedeljnim probnim projektom za jedan imenovani proces.

Zakažite 20 minuta sa ViktoromPošaljite poruku