vitus_wagner: My photo 2005 (Default)
vitus_wagner ([personal profile] vitus_wagner) wrote2024-10-09 09:38 am

Про нейронки

Я когда-то говорил что через несколько лет появится софт для нейросетей, способный эффективно работать на компьютерах (и даже мобильных телефонах) сегодняшнего дня. Т.е. на тех, которые выпускались в тот момент, когда я это говорил. Там еще есть резервы для оптимизации на уровне алгоритмов.

И вот, пожалуйста, пример. Удалось сократить энергопотребление в 20 раз, а количество тактов на операцию примерно вдвое.

jno: (Default)

[personal profile] jno 2024-10-10 09:44 am (UTC)(link)
floating-point multiplications with simpler integer additions

ну, да... благо, там зачастую аж float16.
llivejo: (Default)

[personal profile] llivejo 2024-10-29 01:18 pm (UTC)(link)
> But nothing is perfect and this technique has a major achilles heel: It requires a special type of hardware, so the current hardware isn't optimized to take full advantage of it.

> эффективно работать на компьютерах (и даже мобильных телефонах) сегодняшнего дня

наоборот, в статье явно указано что даже железа для L-Mul нет еще