작성자 | SHA1 메시지 | 날짜 |
---|---|---|
|
e2f77dbc21 fix quant config | 9 달 전 |
|
6ef9a78458 Fix issues with quantization_config == None | 9 달 전 |
|
0920b1a415 Fix quantization for inference | 9 달 전 |
|
d51d2cce9c adding sdpa for flash attn | 1 년 전 |
|
db8af96ff0 update the model load with native flash attn | 1 년 전 |
|
4c9cc7d223 Move modules into separate src folder | 1 년 전 |