Feat (examples/generative): block-based optimization for GPTQ (#1046) #7
| Job | Run time |
|---|---|
| 3m 47s | |
| 4m 17s | |
| 2m 39s | |
| 2m 43s | |
| 2m 27s | |
| 2m 17s | |
| 3m 33s | |
| 3m 29s | |
| 2m 35s | |
| 2m 27s | |
| 3m 20s | |
| 2m 34s | |
| 3m 39s | |
| 4m 3s | |
| 2m 40s | |
| 3m 22s | |
| 2m 56s | |
| 2m 52s | |
| 3m 43s | |
| 3m 13s | |
| 2m 57s | |
| 2m 54s | |
| 2m 58s | |
| 1m 59s | |
| 3m 53s | |
| 3m 52s | |
| 2m 29s | |
| 2m 52s | |
| 2m 5s | |
| 1m 59s | |
| 3m 40s | |
| 4m 6s | |
| 2m 31s | |
| 3m 22s | |
| 2m 27s | |
| 2m 29s | |
| 1h 49m 9s |