vitus_wagner: My photo 2005 (Default)
[personal profile] vitus_wagner

Я когда-то говорил что через несколько лет появится софт для нейросетей, способный эффективно работать на компьютерах (и даже мобильных телефонах) сегодняшнего дня. Т.е. на тех, которые выпускались в тот момент, когда я это говорил. Там еще есть резервы для оптимизации на уровне алгоритмов.

И вот, пожалуйста, пример. Удалось сократить энергопотребление в 20 раз, а количество тактов на операцию примерно вдвое.

Date: 2024-10-10 09:44 am (UTC)
jno: (Default)
From: [personal profile] jno
floating-point multiplications with simpler integer additions

ну, да... благо, там зачастую аж float16.

Date: 2024-10-29 01:18 pm (UTC)
llivejo: (Default)
From: [personal profile] llivejo
> But nothing is perfect and this technique has a major achilles heel: It requires a special type of hardware, so the current hardware isn't optimized to take full advantage of it.

> эффективно работать на компьютерах (и даже мобильных телефонах) сегодняшнего дня

наоборот, в статье явно указано что даже железа для L-Mul нет еще

Profile

vitus_wagner: My photo 2005 (Default)
vitus_wagner

July 2025

S M T W T F S
  12345
6789 1011 12
13141516171819
20212223242526
2728293031  

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Jul. 15th, 2025 04:41 am
Powered by Dreamwidth Studios