Generative Task on Alpaca random subset of 1,000 samples
3.19PerplexityGenFT
Evaluation Results
| Method | Links | |
|---|---|---|
| GenFTStep=40, Backbone=LLaMA-7B, Param.(M)=2.6 M2025.05 | 3.19 | |
| GenFTStep=35, Backbone=LLaMA-7B, Param.(M)=2.6 M2025.05 | 3.23 | |
| PiSSAStep=40, Backbone=LLaMA-7B, Param.(M)=4.2 M2025.05 | 3.25 | |
| PiSSAStep=35, Backbone=LLaMA-7B, Param.(M)=4.2 M2025.05 | 3.27 | |
| GenFTStep=30, Backbone=LLaMA-7B, Param.(M)=2.6 M2025.05 | 3.33 | |
| PiSSAStep=30, Backbone=LLaMA-7B, Param.(M)=4.2 M2025.05 | 3.38 | |
| GenFTStep=25, Backbone=LLaMA-7B, Param.(M)=2.6 M2025.05 | 3.4 | |
| PiSSAStep=25, Backbone=LLaMA-7B, Param.(M)=4.2 M2025.05 | 3.56 | |
| LoRAStep=40, Backbone=LLaMA-7B, Param.(M)=4.2 M2025.05 | 3.62 | |
| GenFTStep=20, Backbone=LLaMA-7B, Param.(M)=2.6 M2025.05 | 3.63 | |
| LoRAStep=35, Backbone=LLaMA-7B, Param.(M)=4.2 M2025.05 | 3.71 | |
| LoRAStep=30, Backbone=LLaMA-7B, Param.(M)=4.2 M2025.05 | 3.97 | |
| PiSSAStep=20, Backbone=LLaMA-7B, Param.(M)=4.2 M2025.05 | 3.99 | |
| GenFTStep=15, Backbone=LLaMA-7B, Param.(M)=2.6 M2025.05 | 4.45 | |
| LoRAStep=25, Backbone=LLaMA-7B, Param.(M)=4.2 M2025.05 | 4.54 | |
| PiSSAStep=15, Backbone=LLaMA-7B, Param.(M)=4.2 M2025.05 | 4.68 | |
| LoRAStep=20, Backbone=LLaMA-7B, Param.(M)=4.2 M2025.05 | 5.27 | |
| GenFTStep=10, Backbone=LLaMA-7B, Param.(M)=2.6 M2025.05 | 5.64 | |
| PiSSAStep=10, Backbone=LLaMA-7B, Param.(M)=4.2 M2025.05 | 5.84 | |
| LoRAStep=15, Backbone=LLaMA-7B, Param.(M)=4.2 M2025.05 | 6.18 | |
| LoRAStep=10, Backbone=LLaMA-7B, Param.(M)=4.2 M2025.05 | 7.08 | |
| PiSSAStep=5, Backbone=LLaMA-7B, Param.(M)=4.2 M2025.05 | 7.15 | |
| LoRAStep=5, Backbone=LLaMA-7B, Param.(M)=4.2 M2025.05 | 7.64 | |
| GenFTStep=5, Backbone=LLaMA-7B, Param.(M)=2.6 M2025.05 | 7.69 |