» » Клод шеннон теория информации. Кто такой Клод Шеннон и чем он знаменит? Шеннон и криптография

Клод шеннон теория информации. Кто такой Клод Шеннон и чем он знаменит? Шеннон и криптография

Клод Элвуд Шеннон – американский математик, инженер-электронщик и специалист в области криптографии, обладатель множества наград, известный как создатель теории информации.


Именно наш герой предложил когда-то использовать всем известное сегодня понятие "бит" в качестве эквивалента наименьшей единицы информации.

Шеннон прославился как человек, давший начало теории информации в эпохальной статье, опубликованной им в 1948 году. Помимо этого, ему приписывают также идею создания цифрового компьютера и цифровых технологий вообще, причем еще в 1937 году, когда Шеннон был 21-летним студентом Массачусетского Технологического Института, работавшим над получением магистерской степени – он написал тогда диссертацию, в которой продемонстрировал, что применения булевой алгебры в сфере электроники могли бы построить и решить любые логические, числовые

связи. Написанная на основе диссертации статья принесла ему премию Американского института инженеров-электриков в 1940.

Во время Второй мировой войны Шеннон сделал значительный вклад в сфере криптоанализа, работая над обороной страны, включая его фундаментальный проект по взламыванию кодов и обеспечению безопасных телекоммуникаций.

Шеннон родился 30 апреля 1916 года в Петоцки, маленьком городке в Мичигане (Petoskey, Michigan), и вырос в соседнем Гэйлорде (Gaylord, Michigan). Его отец был из тех людей, что сделал себя сам. Потомок первых поселенцев Нью-Джерси (New Jersey), он был бизнесменом и судьей. Мать Клода преподавала английский и некоторое время возглавляла ср

еднюю школу Гэйлорда. Большую часть первых 16 лет своей жизни Шеннон провел как раз в Гэйлорде, в 1932 году окончил местную школу. С детства он увлекался конструированием механических и электрических моделей. Его любимыми предметами были естественные науки и математика, а дома, в свободное время, он строил модели самолетов, радиоуправляемую модель лодки и даже беспроводной телеграф, соединявший его с дом с домом друга, жившего в полумиле от Шеннонов.

Подростком Клод подрабатывал в качестве курьера компании "Western Union". Героем его детства был Томас Эдисон (Thomas Edison), который, как позже оказалось, приходился ему еще и дальним родственником. Оба они были потомк

ами Джона Огдена (John Ogden), колониального лидера 17-го века и по совместительству предка множества выдающихся людей. Чем не интересовался Шеннон, так это политикой. Кроме того, он был атеистом.

В 1932 году Клод стал студентом Мичиганского Университета, где один из курсов познакомил его с тонкостями алгебры Буля. Окончив университет в 1936 с двумя степенями бакалавра, по математике и электротехнике, он продолжил занятия в МТИ, где работал на одном из первых аналоговых компьютеров, дифференциальном анализаторе Ванневара Буша (Vannevar Bush) – именно тогда он понял, что концепции булевой алгебры могут применяться с большей полезностью. Диссертация Шеннона на степень м

агистра называлась "Символьный анализ реле и коммутаторов", и специалисты считают ее одной из самых важных диссертаций на степень магистра в 20-м столетии.

Весной 1940 Шеннон защитил в МТИ и докторскую степень по математике с диссертацией "Алгебра для теоретической генетики", и в следующие 19 лет, с 1941 по 1956, преподавал в Мичиганском Университете и работал в компании "Bell Labs", где его интерес вызвали противопожарные системы и криптография (именно этим он занимался во время Второй мировой).

В "Bell Labs" Шеннон познакомился со своей будущей женой Бетти (Betty Shannon), которая занималась числовым анализом. Они поженились в 1949. В 1956 Шеннон вернулся в МТИ,

где ему предложили кафедру, и проработал там 22 года.

Среди его хобби были жонглирование, катание на моноцикле и шахматы. Он изобрел огромное количество разных забавных устройств, включая летающие диски с ракетным двигателем, "кузнечик" с моторчиком и трубу, извергающую пламя, для научной выставки. Он так же считается, вместе с Эдвином Торпом (Edward O. Thorp), изобретателем первого переносного компьютера – они использовали это устройство для повышения шансов на выигрыш при игре в рулетку, и их набеги на Лас-Вегас (Las Vegas) были очень успешными.

Свои последние годы Шеннон провел в доме престарелых, страдая болезнью Альцгеймера. Его не стало 24 февраля 2001 года.

Научная сфера: Место работы: Альма-матер : Известен как: Награды и премии


  • Премия им. А. Нобеля AIEE (1940) ;
  • Премия памяти М. Либмана (англ.) русск. IRE (1949) ;
  • Медаль Почёта IEEE (1966) ;
  • Национальная научная медаль (1966) ;
  • Премия Харви (1972) ;
  • Премия Киото (1985) .

Биография

В 1985 году Клод Шеннон со своей супругой Бетти посещает Международный симпозиум по теории информации в Брайтоне. Шеннон довольно долго не посещал международные конференции, и сначала его даже не узнали. На банкете Клод Шеннон дал короткую речь, пожонглировал всего тремя мячиками, а затем раздал сотни и сотни автографов изумленным его присутствием ученым и инженерам, отстоявшим длиннейшую очередь, испытывая трепетные чувства по отношению к великому ученому, сравнивая его с сэром Исааком Ньютоном .

Он был разработчиком первой промышленной игрушки на радиоуправлении, которая выпускалась в 50-е годы в Японии (фото). Также он разработал устройство, которое могло складывать кубик Рубика (фото), мини компьютер для настольной игры Гекс , который всегда побеждал соперника (фото), механическую мышку, которая могла находить выход из лабиринта (фото). Также он реализовал идею шуточной машины «Ultimate Machine» (фото).

Теория связи в секретных системах

Работа Шеннона «Теория связи в секретных системах» (1945) с грифом «секретно», которую рассекретили и опубликовали только лишь в 1949 году, послужила началом обширных исследований в теории кодирования и передачи информации, и, по всеобщему мнению, придала криптографии статус науки. Именно Клод Шеннон впервые начал изучать криптографию, применяя научный подход. В этой статье Шеннон определил основополагающие понятия теории криптографии, без которых криптография уже немыслима. Важной заслугой Шеннона является исследования абсолютно стойких систем и доказательство их существования, а также существование криптостойких шифров, и требуемые для этого условия. Шеннон также сформулировал основные требования, предъявляемые к надежным шифрам. Он ввёл ставшие уже привычными понятия рассеивания и перемешивания, а также методы создания криптостойких систем шифрования на основе простых операций. Данная статья является отправным пунктом изучения науки криптографии.

Статья «Математическая теория связи»

  • Теорема Найквиста - Шеннона (в русскоязычной литературе - теорема Котельникова) - об однозначном восстановлении сигнала по его дискретным отсчётам.
  • (или теорема бесшумного шифрования) устанавливает предел максимального сжатия данных и числовое значение энтропии Шеннона.
  • Теорема Шеннона - Хартли

См. также

  • Интерполяционная формула Уиттекера - Шеннона

Примечания

Литература

  • Shannon C. E. A Mathematical Theory of Communication // Bell System Technical Journal . - 1948. - Т. 27. - С. 379-423, 623-656.
  • Shannon C. E. Communication in the presence of noise // Proc. Institute of Radio Engineers . - Jan. 1949. - Т. 37. - № 1. - С. 10-21.
  • Шеннон К. Работы по теории информации и кибернетике. - М .: Изд-во иностранной литературы, 1963. - 830 с.

Ссылки

  • Библиография (англ.)

Категории:

  • Персоналии по алфавиту
  • Учёные по алфавиту
  • Родившиеся 30 апреля
  • Родившиеся в 1916 году
  • Родившиеся в Мичигане
  • Умершие 24 февраля
  • Умершие в 2001 году
  • Умершие в Массачусетсе
  • Математики США
  • Теория информации
  • Криптографы
  • Кибернетики
  • Пионеры компьютерной техники
  • Исследователи искусственного интеллекта
  • Учёные в области науки о системах
  • Выпускники Массачусетского технологического института
  • Выпускники Мичиганского университета
  • Преподаватели Массачусетского технологического института
  • Члены и члены-корреспонденты Национальной академии наук США
  • Иностранные члены Лондонского королевского общества
  • Математики XX века
  • Лауреаты премии Харви
  • Награждённые Национальной медалью науки США
  • Награждённые медалью почёта IEEE
  • Персоналии:Компьютерные шахматы
  • Электротехники США

Wikimedia Foundation . 2010 .

Клод Шеннон родился в 1916 году. Вырос в городе Гэйлорде, в штате Мичиган. Уже в детстве Шеннон проявлял интерес как к технике и ее детальному исследованию, так и к общим математическим принципам. Он копался в первых детекторных приемниках, которые приносил ему отец, и одновременно решал математические задачки и головоломки, которыми снабжала его старшая сестра Кэтрин, ставшая впоследствии профессором математики.

В 1936 году выпускник Мичиганского университета Клод Шеннон, которому было тогда 21 год, сумел ликвидировать разрыв между алгебраической теорией логики и ее практическим приложением.
Шеннон, имея два диплома бакалавра - по электротехнике и по математике, выполнял обязанности оператора на неуклюжем механическом вычислительном устройстве под названием "дифференциальный анализатор", который построил в 1930 году научный руководитель Шеннона профессор Вэннивер Буш . В качестве темы диссертации Буш предложил Шеннону изучить логическую организацию своей машины. Постепенно у Шеннона стали вырисовываться контуры устройства компьютера. Если построить электрические цепи в соответствии с принципами булевой алгебры, то они могли бы выражать логические отношения, определять истинность утверждений, а также выполнять сложные вычисления.

Электрические схемы, очевидно, были бы гораздо удобнее шестеренок и валиков, щедро смазанных машинным маслом у "дифференциального анализатора". Свои идеи относительно связи между двоичным исчислением, булевой алгеброй и электрическими схемами Шеннон развил в докторской диссертации, опубликованной в 1938 году.

В 1941 году 25-летний Клод Шеннон поступил на работу в Bell Laboratories, где, помимо всего прочего, прославился тем, что катался на одноколесном велосипеде по коридорам лаборатории, одновременно жонглируя мячиками.

В то время применение к технике методов английского ученого Джорджа Буля (1815-1864), который в 1847 году опубликовал работу с характерным названием "Математический анализ логики, являющийся опытом исчисления дедуктивного рассуждения" было делом почти революционным. Сам же Шеннон лишь скромно заметил на это: "Просто случилось так, что никто другой не был знаком с обеими областями одновременно".

Большую ценность представляет другая работа - Communication Theory of Secrecy Systems (1949), в которой сформулированы математические основы криптографии.

В годы войны он занимался разработкой криптографических систем, и позже это помогло ему открыть методы кодирования с коррекцией ошибок. Кстати, в те же сороковые годы Шеннон, например, занимался конструированием летающего диска на ракетном двигателе. Одновременно Клод Элвуд Шеннон начал развивать идеи, которые впоследствии легли в основу прославившей его теории информации. Целью Шеннона была оптимизация передачи информации по телефонным и телеграфным линиям. И для того, чтобы решить эту проблему, ему пришлось сформулировать, что такое информация и чем определяется ее количество. В своих работах 1948-49 годов он определил количество информации через энтропию - величину, известную в термодинамике и статистической физике как мера разупорядоченности системы, а за единицу информации принял то, что впоследствии было названо "битом", то есть выбор одного из двух равновероятных вариантов.

C 1956 - член Национальной академии наук США и Американской академии искусств и наук.

В своих работах Клод Шеннон определил количество информации через энтропию - величину, известную в термодинамике и статистической физике как мера разупорядоченности системы, а за единицу информации принял то, что впоследствии окрестили "битом", то есть выбор одного из двух равновероятных вариантов. На прочном фундаменте своего определения количества информации Клод Шеннон доказал удивительную теорему о пропускной способности зашумленных каналов связи. Во всей полноте эта теорема была опубликована в его работах 1957-1961 годов и теперь носит его имя. В чем суть теоремы Шеннона? Всякий зашумленный канал связи характеризуется своей предельной скоростью передачи информации, называемой пределом Шеннона. При скоростях передачи выше этого предела неизбежны ошибки в передаваемой информации. Зато снизу к этому пределу можно подойти сколь угодно близко, обеспечивая соответствующим кодированием информации сколь угодно малую вероятность ошибки при любой зашумленности канала. Помимо этого Шеннон неустанно занимался различными проектами: от конструирования электронной мышки, способной находить выход из лабиринта, до конструирования жонглирующих машин и создания теории жонглирования, которая, впрочем, не помогла ему побить его личный рекорд - жонглирование четырьмя мячиками.

Научная сфера: Место работы: Альма-матер : Известен как: Награды и премии


  • Премия им. А. Нобеля AIEE (1940) ;
  • Премия памяти М. Либмана (англ.) русск. IRE (1949) ;
  • Медаль Почёта IEEE (1966) ;
  • Национальная научная медаль (1966) ;
  • Премия Харви (1972) ;
  • Премия Киото (1985) .

Биография

В 1985 году Клод Шеннон со своей супругой Бетти посещает Международный симпозиум по теории информации в Брайтоне. Шеннон довольно долго не посещал международные конференции, и сначала его даже не узнали. На банкете Клод Шеннон дал короткую речь, пожонглировал всего тремя мячиками, а затем раздал сотни и сотни автографов изумленным его присутствием ученым и инженерам, отстоявшим длиннейшую очередь, испытывая трепетные чувства по отношению к великому ученому, сравнивая его с сэром Исааком Ньютоном .

Он был разработчиком первой промышленной игрушки на радиоуправлении, которая выпускалась в 50-е годы в Японии (фото). Также он разработал устройство, которое могло складывать кубик Рубика (фото), мини компьютер для настольной игры Гекс , который всегда побеждал соперника (фото), механическую мышку, которая могла находить выход из лабиринта (фото). Также он реализовал идею шуточной машины «Ultimate Machine» (фото).

Теория связи в секретных системах

Работа Шеннона «Теория связи в секретных системах» (1945) с грифом «секретно», которую рассекретили и опубликовали только лишь в 1949 году, послужила началом обширных исследований в теории кодирования и передачи информации, и, по всеобщему мнению, придала криптографии статус науки. Именно Клод Шеннон впервые начал изучать криптографию, применяя научный подход. В этой статье Шеннон определил основополагающие понятия теории криптографии, без которых криптография уже немыслима. Важной заслугой Шеннона является исследования абсолютно стойких систем и доказательство их существования, а также существование криптостойких шифров, и требуемые для этого условия. Шеннон также сформулировал основные требования, предъявляемые к надежным шифрам. Он ввёл ставшие уже привычными понятия рассеивания и перемешивания, а также методы создания криптостойких систем шифрования на основе простых операций. Данная статья является отправным пунктом изучения науки криптографии.

Статья «Математическая теория связи»

  • Теорема Найквиста - Шеннона (в русскоязычной литературе - теорема Котельникова) - об однозначном восстановлении сигнала по его дискретным отсчётам.
  • (или теорема бесшумного шифрования) устанавливает предел максимального сжатия данных и числовое значение энтропии Шеннона.
  • Теорема Шеннона - Хартли

См. также

  • Интерполяционная формула Уиттекера - Шеннона

Примечания

Литература

  • Shannon C. E. A Mathematical Theory of Communication // Bell System Technical Journal . - 1948. - Т. 27. - С. 379-423, 623-656.
  • Shannon C. E. Communication in the presence of noise // Proc. Institute of Radio Engineers . - Jan. 1949. - Т. 37. - № 1. - С. 10-21.
  • Шеннон К. Работы по теории информации и кибернетике. - М .: Изд-во иностранной литературы, 1963. - 830 с.

Ссылки

  • Библиография (англ.)

Категории:

  • Персоналии по алфавиту
  • Учёные по алфавиту
  • Родившиеся 30 апреля
  • Родившиеся в 1916 году
  • Родившиеся в Мичигане
  • Умершие 24 февраля
  • Умершие в 2001 году
  • Умершие в Массачусетсе
  • Математики США
  • Теория информации
  • Криптографы
  • Кибернетики
  • Пионеры компьютерной техники
  • Исследователи искусственного интеллекта
  • Учёные в области науки о системах
  • Выпускники Массачусетского технологического института
  • Выпускники Мичиганского университета
  • Преподаватели Массачусетского технологического института
  • Члены и члены-корреспонденты Национальной академии наук США
  • Иностранные члены Лондонского королевского общества
  • Математики XX века
  • Лауреаты премии Харви
  • Награждённые Национальной медалью науки США
  • Награждённые медалью почёта IEEE
  • Персоналии:Компьютерные шахматы
  • Электротехники США

Wikimedia Foundation . 2010 .

Клод Элвуд Шеннон (30 апреля 1916 — 24 февраля 2001) — американский математик, инженер-электрик, и криптограф, известный как «отец теории информации».

Шеннон известен, за написание основ теории информации, Математической Теории связи, которые он опубликовал в 1948 году. В 21 год будучи магистром в Массачусетском технологическом институте (МТИ) , он писал диссертацию, доказывая, что электрическим применением Булевой алгебры можно строить любые логические, числовые отношения. Клод Элвуд Шеннон внес большой вклад в область криптоанализа для национальной обороны во время Второй Мировой Войны, включая его основные работы по codebreaking и надежности телекоммуникаций.

В 1950 году Шеннон опубликовал статью о компьютерных шахматах под названием «Программирование компьютера для игры в шахматы». Он описывает, как машина или компьютер могут быть запрограммированы, чтобы играть в логические игры, в шахматы. За процессом хода компьютера отвечают так называемые минимаксные процедуры, на основе оценки функции заданной шахматной позиции. Шеннон привел грубый пример оценки функции, в котором значение черной позиции была вычтена из белой позиции. Значения были посчитаны по оценке обычной шахматной фигуры (1 балл за пешку, 3 очка за рыцаря или епископа, 5 баллов за ладью, и 9 баллов за королеву). Он рассмотрел некоторые позиционные факторы, вычитая 0,5 балла за каждую сдвоенную пешку, отсталые и изолированные пешки и добавляя 0,1 балл за каждый хороший ход. Цитата из документа:

«Коэффициенты 0.5 и 0.1 это лишь грубая оценка писателя. Кроме того, существует много других условий, которые должны быть включены. Формула дана только для наглядности.»

В 1932 году Шеннон был зачислен в Мичиганский университет, где на одном из курсов познакомился с работами Джорджа Буля. В 1936 году Клод окончил Мичиганский университет, получив степень бакалавра по двум специальностям (математик и электротехник), и устроился в Массачусетский технологический институт (MIT), где работал ассистентом-исследователем. Он выполнял обязанности оператора на механическом вычислительном устройстве, аналоговом компьютере, называемом «дифференциальный анализатор», разработанным его научным руководителем Вэниваром Бушем. Изучая сложные, узкоспециализированные электросхемы дифференциального анализатора, Шеннон увидел, что концепции Буля могут получить достойное применение. После того, как он проработал лето 1937 года в Bell Telephone Laboratories, он написал основанную на своей магистерской работе того же года статью «Символический анализ релейных и переключательных схем». Необходимо отметить, что Фрэнк Лорен Хичкок контролировал магистерскую диссертацию, давал полезную критику и советы. Сама статья была опубликована в 1938 году в издании Американского института инженеров-электриков (AIEE). В этой работе он показал, что переключающиеся схемы могут быть использованы для замены схем с электромеханическими реле, которые использовались тогда для маршрутизации телефонных вызовов. Затем он расширил эту концепцию, показав, что эти схемы могут решить все проблемы, которые позволяет решить Булева алгебра. Также, в последней главе он представляет заготовки нескольких схем, например, 4-разрядного сумматора. За эту статью Шеннон был награждён Премией имени Альфреда Нобеля Американского института инженеров-электриков в 1940 году. Доказанная возможность реализовывать любые логические вычисления в электрических цепях легла в основу проектирования цифровых схем. А цифровые цепи - это, как известно, основа современной вычислительной техники, таким образом, результаты его работ являются одними из наиболее важных научных результатов ХХ столетия. Говард Гарднер из Гарвардского университета отозвался о работе Шеннона, как о «возможно, самой важной, а также самой известной магистерской работе столетия».

По совету Буша Шеннон решил работать над докторской диссертацией по математике в MIT. Буш был назначен президентом Института Карнеги в Вашингтоне и предложил Шеннону принять участие в работе по генетике, которую вела Барбара Беркс. Именно генетика, по мнению Буша, могла послужить предметом приложения усилий Шеннона. Сам Шеннон, проведя лето в Вудс Хоул, Массачусетс, заинтересовался нахождением математического фундамента для законов наследования Менделя. Докторская диссертация Шеннона, получившая название «Алгебра теоретической генетики», была завершена весной 1940 года. Однако эта работа не была выпущена в свет вплоть до 1993 года, пока она не появилась в сборнике Шеннона «Collected Papers». Его исследования могли стать весьма важными в противном случае, но бо́льшая часть этих результатов была получена независимо от него. Шеннон получает докторскую степень по математике и степень магистра по электротехнике. После этого он не возвращался к исследованиям в биологии.

Шеннон также был заинтересован в применении математики в информационных системах, таких как системы связи. После очередного лета, проведенного в Bell Labs, в 1940 году Шеннон на один академический год стал научным сотрудником в Институте перспективных исследований в Принстоне, штат Нью-Джерси, США. Там он работал под руководством известного математика Германа Вейля, а также имел возможность обсудить свои идеи с влиятельными учеными и математиками, среди которых был Джон фон Нейман. Он также имел случайные встречи с Альбертом Эйнштейном и Куртом Гёделем. Шеннон свободно работал в различных дисциплинах, и эта способность, возможно, способствовала дальнейшему развитию его математической теории информации.