Джон Кармак, основатель Keen Technologies и создатель культовой игры Doom, выдвинул приключенческую идею, заменяющую DRAM для инференса нейросетей. Вместо традиционных микросхем памяти он предлагает применять оптоволоконные петли, в которых данные перемещаются как световые импульсы. По его расчетам, скорость передачи уже достигает 256 Тб/с на расстоянии до 200 км по одномодовому волокну, что позволяет генерировать 32 ГБ данных с пропускной способностью 32 ТБ/с. Кармак замечает, что обращение к весам четко детерминировано, что позволяет напрямую выводить данные из оптоволокна в кэш L2 процессора. Хотя для моделей с триллионом параметров потребуется много этаких петель, Кармак считает, что будущее за мощностью оптоволокна, которая растет быстрее, чем DRAM. Кроме того, он предлагает использовать недорогие флеш-чипы как более доступное решение, если производители создадут высокоскоростной интерфейс. Пост Кармака собрал 1,3 млн просмотров за два дня, поднимая вопросы альтернативных решений на фоне дефицита HBM-памяти.