Компьютеры греются. Это знает каждый, кто хоть раз держал ноутбук на коленях час-другой. Виноваты несовершенство кремния, сопротивление проводников, паразитные токи. Уберешь все дефекты - и вычисления станут бесплатными. Ага.
Вот только это неправда. Даже абсолютно идеальный процессор, без единого недостатка в конструкции, обязан выделять тепло.
Но что, если…
Один человек с одним вопросом изменил понимание вычислений
Ральф Ландауэр эмигрировал из Штутгарта в США в 1938-м - семья была еврейской, выбора особо не было. Учеба в Гарварде, степень по физике в 1950-м, и потом почти полвека в IBM Research. Тихая карьера исследователя.
В июле 1961 года он опубликовал статью в IBM Journal of Research and Development - "Необратимость и генерация тепла в вычислительном процессе" (Irreversibility and Heat Generation in the Computing Process). Одиннадцать страниц. Но, увы, на нее почти не обращали внимания больше двадцати лет.
Если коротко, то Ландауэр заметил - некоторые операции с информацией необратимы. Если у вас есть бит, который может быть 0 или 1, и вы сбрасываете его в 0 - вы уничтожаете информацию. Два возможных состояния сжались в одно. Ну, и это нельзя отмотать назад. Логично, все понимают
И вот здесь - привет, термодинамика. Второе начало говорит - в замкнутой системе энтропия не убывает. Но вы только что уменьшили энтропию носителя информации - убрали неопределенность. Значит, где-то в другом месте энтропия обязана вырасти. Это другое место, собственно, окружающая среда. Тепло.
Минимальная цена стирания одного бита при температуре среды T:
E_min = kT · ln2
При комнатной температуре (T = 300 K) это примерно 2.87 × 10⁻²¹ джоуля. Три зептоджоуля. Цифра смехотворно маленькая - и при этом абсолютно неустранимая.
Демон, который должен был разрушить термодинамику
Мысленный эксперимент Джеймса Клерка Максвелла 1867 года звучит так. Представьте два отсека с газом. Между ними - маленькая дверца. Рядом сидит существо, которое видит скорость каждой молекулы: быстрых пускает в правый отсек, медленных - в левый. Правый нагревается, левый остывает. Работа сделана, а внешней энергии не потрачено. Второе начало нарушено.
И на вот этого демона потратили девяносто лет. Лео Силард в 1929-м показал, что само измерение скорости молекулы требует затраты энергии - kT · ln2 за каждый бит информации. Леон Бриллюэн в 1956-м развил эту идею в книге "Наука и теория информации" (Science and Information Theory) и ввел термин "негэнтропия" - отрицательная энтропия, которую информация несет с собой. Демон, измеряя молекулы, потребляет негэнтропию из среды.
Но Бриллюэн убивал демона на входе - в момент измерения. Ландауэр предложил другую точку атаки.
В 1982-1987 годах Чарльз Беннет из той же IBM сформулировал окончательный ответ. Измерение - обратимый процесс. Демон может наблюдать молекулу, не расходуя энергии. Проблема не в наблюдении.
Проблема в памяти. Демон запоминает скорость каждой молекулы. Его память конечна. В какой-то момент ее нужно стереть, чтобы продолжать работу. И вот именно здесь - предел Ландауэра. Каждый стертый бит памяти выделяет минимум kT · ln2 тепла. Это ровно компенсирует работу, которую демон якобы сделал бесплатно.
Демон не нарушает второй закон. Он, скажем так, просто переносит расплату.
Силард и один бит, который все объяснил раньше
Тут, кстати, важный исторический нюанс.
Лео Силард в 1929 году опубликовал работу О снижении энтропии в термодинамической системе посредством вмешательства разумных существ" (On the Decrease of Entropy in a Thermodynamic System by the Intervention of Intelligent Beings). Он упростил нашего условного демона Максвелла до предела - одна молекула, один цикл. Показал, что один цикл измерения и сортировки требует работы W = kT · ln2. Один бит информации - одна единица термодинамической стоимости.
Силард первым прочертил линию между битом и термодинамикой. Ландауэр тридцать лет спустя сделал из этого принцип применительно к вычислениям. Беннет потом собрал все вместе и, получается, убил демона окончательно.
Эксперимент с коллоидной частицей
Принцип Ландауэра оставался теоретическим почти пятьдесят лет. Слишком маленькие энергии, слишком сложно измерить.
В 2012 году группа из Высшей нормальной школы Лиона (École Normale Supérieure de Lyon) опубликовала в журнале Nature первое прямое экспериментальное подтверждение принципа.
Схема до предела элегантная. Одна коллоидная частица в воде. Два лазерных пятна создают двухъямный оптический потенциал - буквально два соседних кармана, в одном из которых сидит частица. Это и есть один бит памяти: левая яма - 0, правая яма - 1.
Стирание - операция, которая загоняет частицу в одну яму независимо от начального положения. Исследователи делали это медленно, квазистатически. И измеряли рассеиваемое тепло с помощью отслеживания движения частицы.
Результат - при достаточно медленном стирании среднее тепло насыщалось точно на уровне kT · ln2. Предел Ландауэра - не абстракция. Он реальный, физически измеримый.
Современные процессоры - а насколько далеко до предела
Предел Ландауэра при комнатной температуре - около 3 × 10⁻²¹ джоуля на бит. Три зептоджоуля.
Современные кремниевые транзисторы на 3-нанометровом техпроцессе (Apple M4 на TSMC N3E, например) потребляют на одно переключение порядка фемтоджоулей - 10⁻¹⁵ джоуля. Это на пять-шесть порядков больше предела Ландауэра.
Это не значит, что мы плохо работаем. Это значит, что запас есть, но он измеряется уже не миллиардами раз, а сотнями или тысячами. Старые учебники любят писать "в миллиард раз хуже предела" - эти цифры из 1980-х, когда считали полное потребление компьютерной системы, включая охлаждение, память и периферию. Для отдельного транзистора на современном узле разрыв много скромнее.
Так, ну и по прогнозам - к 2030-м инженеры могут довести реальное потребление до 50-60 предельных значений Ландауэра. И дальше кремний, к сожалению, упрется в физику по-настоящему.
Обратимые вычисления - можно ли обойти предел
Если тепло выделяется только при стирании - значит, нужно не стирать.
Ив Лесерф в 1963 году описал первую обратимую машину Тьюринга. Чисто теоретически, без связи с термодинамикой. Потом переключился на этнолингвистику - занятная биография.
Чарльз Беннет в 1973-м сделал шаг, который имел практический смысл. В том же Журнале исследований и разработок IBM, он показал: любые вычисления можно сделать обратимыми через схему "вычисли - скопируй результат - развычисли". Промежуточные шаги восстанавливаются в обратном порядке, информация не уничтожается, стирания нет.
Теоретически - вычисление без тепловых потерь.
Но вот на практике это чудовищно дорого по памяти и времени. Все промежуточные состояния нужно хранить. Обратимые компьютеры существуют как концепции и небольшие прототипы, не более.
Квантовые компьютеры, кстати, унитарны - их вентили обратимы по природе квантовой механики. Но измерение кубита и его ре-инициализация в |0⟩ - необратимые операции. Декогеренция - тоже фактически стирание информации. Предел Ландауэра никуда не исчезает даже там.
А что с будущим ИИ-ферм
Обучение большой языковой модели требует выполнения триллионов матричных операций. Каждая такая операция в конечном счете сводится к огромному числу переключений транзисторов. Даже самые современные транзисторы расходуют на одно переключение энергию примерно в сотни тысяч раз больше предела Ландауэра. Крупные вычислительные кластеры для обучения ИИ потребляют десятки мегаватт мощности, а новейшие ИИ-суперкомпьютеры уже приближаются к сотням мегаватт.
Причина не только в утечках, сопротивлении проводников или охлаждении. За ними скрывается фундаментальный термодинамический предел, к которому добавляются неизбежные накладные расходы из-за шума, требований надежности и необратимости современной логики.
Предел Ландауэра устанавливает дно. Мы все еще очень далеки от него, но впервые за историю вычислительной техники уже можем различить его на горизонте.
Комментарии (11)
Wizard_of_light
19.06.2026 04:27E_min = kT · ln2
Ну, значит систему охлаждения нужно будет помощнее ЕВПОЧЯ. Маск со своей идеей космических компьютеров похоже о чём-то догадался.
Вообще есть нюанс - предел Ландауэра вычислен в предположении, что система хранения информации основана на различении двух близких состояний электрона. Впрочем, пока мы нейтринные вычислительные системы не построим, он нас будет угнетать - даже фотонные схемы должны как-то взаимодействовать с веществом, а там опять тот же чёртов электрон...
Кстати, недавно прочитал "Яйцо дракона" Форварда и теперь сочувствую возможным строителям компьютера на нейтронной звезде - при температуре в миллионы градусов ландауэровский предел будет реальной проблемой.
LinkToOS
19.06.2026 04:27Одна коллоидная частица в воде. Два лазерных пятна создают двухъямный оптический потенциал - буквально два соседних кармана, в одном из которых сидит частица. Это и есть один бит памяти: левая яма - 0, правая яма - 1.
буквально два соседних кармана - левая яма и правая яма.
Стирание - операция, которая загоняет частицу в одну яму независимо от начального положения.
Все равно в какую, главное что в одну?
Результат - при достаточно медленном стирании среднее тепло насыщалось точно на уровне kT · ln2
Чем насыщалось тепло?
Если у вас есть бит, который может быть 0 или 1, и вы сбрасываете его в 0 - вы уничтожаете информацию. Два возможных состояния сжались в одно. Ну, и это нельзя отмотать назад. Логично, все понимают
, что статья сгенерирована ИИ. Но плюсы все равно ставят. В полном соответствии с необратимостью логики.
к которому добавляются неизбежные накладные расходы из-за шума, требований надежности и необратимости современной логики.
Предел Ландауэра устанавливает дно. Мы все еще очень далеки от него, но впервые за историю вычислительной техники уже можем различить его на горизонте.Дно достигнуто.
rudnyi
19.06.2026 04:27Проблема с принципом Ландауэра следующая. Мы смотрим на физическую систему со стороны и в ней протекают физические процессы. Вопрос такой. Как узнать, было бы вычисление в этот момент или нет? Если говорить про эксперименты с броуновскими частицами, то вопрос становится таким. Как узнать, произошло ли в этом эксперименте инициализация ячейки памяти или нет?
На эту тему см., например, обсуждение этот вопроса (доступно онлайн):
Gualtiero Piccinini and Corey Maley, Computation in Physical Systems, The Stanford Encyclopedia of Philosophy, 2021.
VadimLL
19.06.2026 04:27Автору Спасибо (и лайк) за статью!
Кстати, пару недель назад на ютубе вышло видео с подобной тематикой: «Принцип Ландауэра и предел развития искусственного интеллекта. Объяснение» (про ИИ видимо для кликабельности добавлено, мол кто будет читать, если не упомянута эта хайповая тема).
Там есть мой коммент (
@vadimn6393) и автор почему-то даже закрепил его в топе, ответив на него. На что в тот же день написал свой ответ (проведя некоторые изыскания), однако, автор, непонятно почему, запретил любые комментарии к своему видео (что было несколько разочаровывающе — писал ответ, потратил время и облом).Приведу хотя бы здесь этот ответ. Это в тему статьи. Возможно, будет кому-то интересно, кому-то дискуссионно (ну а кому-то не интересно — дополнительный «выход гейта», чтобы температура не повышалась, ЕВПОЧЯ ) ) :
Скрытый текст
Что такое фазовое пространство в курсе. И, кстати, по отношению к биту говорить, что его фазовое пространство это {0, 1} не совсем корректно, скорее следует говорить о конфигурационном пространстве или пространстве состояний.
Конфигурационное пространство — это пространство всех возможных состояний, в которых может находится система.
Фазовое пространство — это пространство состояний + структура, которая позволяет эволюции быть детерминированной из любой точки этого пространства. Зная точку в этом пространстве, можно предсказать следующий шаг. В классической механике это координата + импульс.И если с поршнем все понятно, хотя тут скорее следует применить уравнение Клапейрона-Менделеева P⋅ V / T = N⋅ k_B (= const). Однако же, аналогии мало что доказывают. Бит это своя система, обычно там нет поршней (хотя наверное и можно предложить реализацию на поршнях), сейчас это кремневая электроника, где ничего не деформируется.
Что мне не хватило?
Привели формулу, так сказать, «с неба». Вроде наукообразно, но по сути ничего не объясняет — логическая лакуна. Хочется не формулу «с потолка», а принципы, понимание сути.
Апелляция ко 2-му началу термодинамики на 4:28, уже лучше. Похоже здесь зарыта суть. И вот здесь бы, не парой слов, а более углубится.2-е начала термодинамики, по сути очевидно: в замкнутой системе энтропия (логарифм стат.веса) может только расти, т.е. эволюция системы происходит в сторону более вероятного состояния. Очевидное следствие теории вероятности.
Стирание информации это логический вентиль с таблицей истинности: 0 -> 0, 1 -> 0.
Очень простая система и эволюция. Для таких систем, где уже проще некуда, по идее должно быть особое упрощенное понимание и вывод результата, чем для общего случая. Вот его бы и разжевать до самой сути.Попробую без формулы Ландауэра (но строго):
Пусть исходно бит находится в равновесии, т.е. в состоянии с равной (1/2) вероятностью 0 или 1.
Энтропия по Шеннону (она же эквивалентна информации) для бита с вероятностями (простая математика, не Ландауэр, а база, определение понятия):
S = -p0⋅log(p0) - p1⋅log(p1) = 1/2 + 1/2 = 1 здесь log двоичный)После стирания состояние всегда 0 (вероятность 1 и log(1) = 0) => энтропия:
S = 0Но энтропия системы не может просто исчезнуть. Согласно 2-му началу, энтропия замкнутой системы не убывает. Наш бит — Не Замкнутая система (!) и общая энтропия "бит" + "окружение" не должна уменьшаться. Если энтропия бита упала на 1, то энтропия окружения должна вырасти как минимум на 1.
Определение энтропии в стат. физике:
S = k_B ⋅ ln(2)W - статистический вес, т.е. число различных микросостояний, т.е. в нашем случае:
S = k_B ⋅ ln(2)
Как растет энтропия окружения? Только через тепло (Q). В термодинамике, 2-е начало можно так записать:
dS >= δQ / T
(но выводится из стат. физики, т.е. по сути упомянутое следствие теории вероятности, просто переформулированное в терминах термодинамики)Вот тут и возникает формула Ландауэра (ибо dQ это и есть E что у вас в видео).
Удивительно — вывелась, даже не ожидал, начиная рассуждать. Не так уж и страшен этот Ландауэр — на школьном уровне :) Но, наверное, можно еще проще (все таки бит).В общем суть/база в том, что система (бит + окружение) эволюционирует в статистически более вероятное состояние (2-е начало) — очевидно. Остальное разговор о терминах, где лишь Переформулируем (!) из статистических терминов в термины термодинамики. Термодинамика феноменологическая теория, ее термины условны. Суть же — теория вероятности, остальное манипуляция терминами.
misha_erementchouk
19.06.2026 04:27Формулу Ландауэра так обычно и выводят. Состояние фиксируется -> понижается энтропия -> энергетическая цена. Приравнивание разных энтропий - шаг неавтоматический и, в общем, обсуждаемый. На эту тему люди гору работ написали, но когда в свое время попытался в этом покопаться, не увлекся.
DrGluck07
19.06.2026 04:27Почему-то сразу вспомнился лемовский профессор Донда.Видимо Лем был в курсе этих научных работ.
badsynt
19.06.2026 04:27И вот здесь - привет, термодинамика. Второе начало говорит - в замкнутой системе энтропия не убывает. Но вы только что уменьшили энтропию носителя информации - убрали неопределенность. Значит, где-то в другом месте энтропия обязана вырасти. Это другое место, собственно, окружающая среда. Тепло
Предположим имеется секретный ключ длиной 2к бит. Вы уничтожаете информацию, записывая вместо ключа последовательность двоичных нулей. Но вы только что уменьшили энтропию носителя информации. И вот здесь - привет, термодинамика.
Но есть другой вариант. Вы уничтожаете информацию, записывая вместо ключа случайную последовательность нулей и единиц. Но что это? Энтропия носителя информации практически не изменилась. И термодинамика машет ручкой...
Как быть?
VadimLL
19.06.2026 04:27Согласен, это действительно несколько мутный момент.
Прежде всего, для простоты, лучше взять не 2к бит, а 1 бит, суть от этого не изменится, а нам проще.
Также важно не то, что стираем именно нулями (пусть те же 2к), можем стирать и единицами..., важно что стираем Конкретным выбранным числом (как вы предлагаете — предварительно выбрать такое число).Для себя так понимаю этот момент:
Согласно термодинамическому подходу мы абстрагируемся от микросостояний (термодинамика будучи феноменологической о них ничего не знает, а стат. физика согласно своему названию рассматривает микросостояния статистически), т.е. рассматриваем бит как черный ящик, но при этом держа в голове и нижележащую стат. физику, а именно, что бит имеет микросостояния {0, 1}.
Как писал под спойлером выше, эта тема подпадает под описания в терминах разных «языков» — с одной стороны термодинамики, с другой стат. физики (по сути теории вероятности). Эти неразрывно связанные области описывают системы обобщенно, с точки зрения статистики, средних значений (та же температура в стат. физике это мера Средней кинетической энергии хаотического движения микрочастиц)...
Поэтому, если хотим говорить о температуре, нужно говорить в терминах средних, статистически. Для системы бита статистика пляшет на значениях {0, 1}. В среднем с вероятностью 1/2 для каждого.И далее, как писал в комменте выше, считаем соответствующую исходную энтропию:
S = -p0⋅log(p0) - p1⋅log(p1) = 1/2 + 1/2 = 1После стирания же, неважно, что выбрали 0 или 1, система бита будет с вероятностью 1 находится в конкретном состоянии. log(1) = 0 и => энтропия станет:
S = 0и т.д., не буду повторяться.
stantum
Если удаление накопленной информации выделяет тепло - открываются занятные перспективы по зарядке аккумуляторов. И вообще, самом устройстве аккумуляторов.
ImagineTables
А термодинамический КПД? Который дельта Т на Т2.