Технический прогресс = «взрыв сложности» + сингулярность

№ 7’2014
PDF версия
Рационально планируемое развитие техники все чаще приводит к иррациональным последствиям, и техника выступает в сознании человека не как нейтральное средство для удовлетворения его потребностей, а как самостоятельная цель, отчужденная сила.

Что такое технический прогресс? Философская энциклопедия дает следующее определение: «Технический прогресс — взаимообусловленное, взаимостимулирующее развитие науки и техники. Понятие было введено в XX веке в контексте обоснования, использующего потребительное отношение к природе, и традиционной научно-инженерной картины мира. Цель технического прогресса определяется как удовлетворение постоянно растущих потребностей человека; способ удовлетворения этих потребностей — реализация достижений естественных наук и техники».

Действительно, как пишет Н. В. Попкова в своей статье «Философия техники» [1], технологические инновации вводились людьми для улучшения жизни и удовлетворения потребностей: эту задачу техногенная среда выполняет, давая возможность все увеличивающемуся населению Земли получать материальные предпосылки существования. Но в последние годы все полнее проявляются другие последствия технологического роста: подавление собственно биологических и гуманитарных сторон жизни человека, вытеснение их техногенными качествами и закономерностями. Это вызывает двойственную оценку роли техногенной среды: ранее преобладавшую позитивную и набирающую вес негативную. Основная проблема заключается в трудностях управления техногенной средой, в невозможности контролировать ее развитие или хотя бы прогнозировать ее реакцию на внедрение очередных инноваций. Выявление на всех этапах технической деятельности непредсказуемых и нежелательных ее результатов показывает: техногенная среда всегда находилась отчасти вне контроля создающего ее человечества, а значит, обладала автономностью.

Таким образом, далеко не всегда развитие техники направлено на «удовлетворение постоянно растущих потребностей человека», причем по нашим наблюдениям, такое свойство технический прогресс начал приобретать лишь во второй половине XX века.

В одном старом научно-фантастическом романе был занятный сюжет, развитие которого началось с невинной вещи: необычного ночного звонка по телефону всем жителям планеты Земля. Этим звонком всем людям возвестил о своем рождении Глобальный Разум. Оказалось, что на каком-то этапе развития количественный рост компьютеров получил новое качество: миллионы компьютеров, объединенных в общую сеть и управляющих всем и вся на планете, вдруг осознали себя единым целым, способным к самовоспроизводству посредством автоматизированных заводов и роботов, включенных в ту же сеть, а также к защите с помощью компьютеризированных систем вооружения, рассчитанных на уничтожение человека. С точки зрения Глобального Разума человечество было не чем иным, как рудиментом, балластом, пожирающим ресурсы планеты. Дальнейшее развитие сюжета читатели могут предугадать сами.

Уже сегодня компьютерами с сетевым подключением управляются практически все виды современных промышленных производств, системы управления водоснабжением и электроснабжением, системы телекоммуникации и связи. В технической, а не в фантастической литературе появились термины: «разумная электрическая сеть» (Smart Grid), «релейная защита с искусственным интеллектом» (Artificial Intelligence). В технической, а не в фантастической литературе рассматриваются сегодня вопросы создания «умного жилища» (Smart House), в котором даже холодильник станет сам оценивать запасы хранящихся в нем продуктов и на основе анализа их потребления будет составлять заказ и отсылать его по сети в ближайший супермаркет. Сегодня микропроцессоры можно найти уже где угодно, даже в крышке унитаза.

Человечество семимильными шагами движется к созданию непредсказуемого Глобального Разума, предугаданного в старом фантастическом романе. И потому знаменитый сюжет уже давно перекочевал со страниц фантастических романов на страницы серьезных философских журналов и книг, освещающих проблемы философии техники. Это относительно новая область философских исследований, направленных на осмысление природы техники и оценку ее воздействий на общество, культуру и человека. Существует точка зрения, согласно которой философия техники — это скорее не собственно философия, а междисциплинарная область знаний, для которой характерно самое широкое рассмотрение техники и осмысление проблем, создаваемых ею.

На симпозиуме VISION‑21, в 1993 году проведенном Центром космических исследований NASA им. Льюиса и Аэрокосмическим институтом Огайо, прозвучало нашумевшее выступление известного математика профессора Вернора Винджа [2]: «Ускорение технического прогресса — основная особенность XX века. Мы на грани перемен, сравнимых с появлением на Земле человека. Сугубая причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий… Крупные компьютерные сети (и их объединенные пользователи) могут «осознать себя» как сверхчеловечески разумные сущности… Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока. Неуправляемая цепная реакция начнет развиваться по экспоненте безо всякой надежды на восстановление контроля над ситуацией».

Виндж предложил новый термин для этого явления — «технологическая сингулярность». Обычно под сингулярностью понимается некая особая точка или область функции, значение в которой стремится к бесконечности или имеет какие-либо иные нерегулярности поведения, это некая критическая точка, после которой значение функции становится неопределенным и непредсказуемым. Типичные примеры сингулярности — лавинный пробой в полупроводниковых структурах, туннельный эффект в электрических контактах и в полупроводниках, участок вольт-амперной характеристики туннельного диода и т. д. Технологическая сингулярность подразумевает некую точку в развитии техники вообще, а компьютерной техники и искусственного интеллекта особенно, после чего дальнейшее их развитие становится, во‑первых, необратимо и независимо от человека, а во‑вторых, непредсказуемо. На взгляды Винджа повлиял, безусловно, так называемый закон Мура (Мора) [3], сформулированный в 1965 году одним из учредителей компании Intel Гордоном Муром (Gordon Moor). Этот закон гласит, что количество транзисторов в микропроцессорах удваивается примерно каждые два года, а их производительность растет экспоненциально (рис. 1). Данный закон действует вот уже 40 лет.

Зависимость числа транзисторов на кристалле микропроцессора от времени за период 1971–2011 гг. (вертикальная ось имеет логарифмическую шкалу, поэтому прямая линия соответствует экспоненциальному закону)

Рис. 1. Зависимость числа транзисторов на кристалле микропроцессора от времени за период 1971–2011 гг. (вертикальная ось имеет логарифмическую шкалу, поэтому прямая линия соответствует экспоненциальному закону)

По такому же экспоненциальному закону развивается, постоянно усложняясь, не только микропроцессорная и компьютерная техника, но и другие виды техники, а за ними и общество. Социолог М. Сухарев в своей работе «Взрыв сложности» [4] пишет: «В развитии общества видна еще одна закономерность — ускорение роста сложности со временем. Десятки тысяч лет жили на Земле племена, вооруженные копьями и луками. За несколько сотен лет мы проскочили промышленно-техническую цивилизацию. Сколько лет отпущено компьютерному этапу, не известно, но нынешняя скорость эволюции общества беспрецедентна».

Подтверждают эту мысль многие крупнейшие специалисты:

  • д. ф. н., профессор И. А. Негодаев [5]: «Закономерностью развития техники является ее последовательное усложнение. Это усложнение происходит как путем увеличения числа элементов, входящих в техническую систему, так и изменением ее структуры»;
  • директор, главный конструктор Централь-ного научно-исследовательского и опытно-конструкторского института робототехники и технической кибернетики, член-корреспондент РАН В. А. Лопота и д. т. н., профессор Е. И. Юревич [6]: «Общая закономерность научно-технического развития во всех сферах человеческой деятельности — прогрессирующее усложнение, интеграция и интенсификация техники»;
  • к. т. н. Безменов А. Е. [7]: «Тенденция развития техники характеризуется все большим усложнением машин, приборов и установок. С увеличением сложности изделий их надежность (при прочих равных условиях) уменьшается».

Если «взрыв сложности» бытовой техники происходит у всех нас на виду и не требует доказательств, то усложнение техники в промышленности не так заметно для обывателя. Поэтому рассмотрим несколько конкретных примеров, подтверждающих эту тенденцию.

Всемирно известная шведская компания Programma Electric AB, созданная в 1976 году (которая в 2001 году была приобретена General Electric, а в 2007 вошла в состав концерна Megger Group Ltd), выпускает огромную номенклатуру приборов и устройств для тестирования электроэнергетического оборудования — от точных таймеров и систем для проверки реле защиты до источников сильных токов. Одним из изделий этой компании является устройство типа В10Е (рис. 2) для измерения минимального напряжения срабатывания приводов высоковольтных выключателей. Согласно стандарту МЭК 62271-100 такие выключатели подлежат проверке на соответствие параметрам производителя по минимальному напряжению срабатывания. Имеются в виду измерения трех напряжений: минимального напряжения на отключающей катушке выключателя, при которой выключатель срабатывает; минимального напряжения на катушке включения, обеспечивающей включение выключателя; минимального напряжения на моторном приводе выключателя, при котором обеспечивается завод пружины.

Внешний вид устройства типа В10Е для проверки минимального напряжения срабатывания приводов высоковольтных выключателей

Рис. 2. Внешний вид устройства типа В10Е для проверки минимального напряжения срабатывания приводов высоковольтных выключателей

В общем-то, речь идет о приборе, выполняющем очень простую функцию — предварительную установку определенного уровня напряжения, контролируемого вольтметром, с последующей подачей этого напряжения на выходные клеммы прибора. Разработать схему устройства, реализующего эту функцию, не сложно (рис. 3).

Пример схемы простого устройства для проверки высоковольтных выключателей, реализующей все необходимые функции

Рис. 3. Пример схемы простого устройства для проверки высоковольтных выключателей, реализующей все необходимые функции

В этом устройстве выходное напряжение устанавливается лабораторным автотрансформатором AT типа ЛАТР‑9, выпрямляется диодным мостом и сглаживается конденсатором C большой емкости (несколько тысяч микрофарад). На одну пару выходных клемм подается регулируемое переменное напряжение, на другую — регулируемое постоянное напряжение. Контроль выходных напряжений осуществляется с помощью вольт-метра V. Чтобы предотвратить случайную подачу высокого напряжения (250 В) с устройства на низковольтную (24–48 В) катушку или на мотор, на автотрансформаторе установлен микропереключатель S1 таким образом, что его контакты замкнуты под действием толкателя, укрепленного на валу, только в нулевом положении движка автотрансформатора. При нажатии кнопки S2 происходит отключение разрядного резистора R от конденсатора C и подача напряжения на вход устройства. Для подачи на катушки выключателя предварительно выставленного с помощью вольт-метра и автотрансформатора напряжения, в дополнение к удерживаемой кнопке S2 нажимают одну из кнопок S3 (выход переменного тока) или S4 (выход постоянного тока). Если выключатель не сработал, увеличивают напряжение, удерживая кнопку S2, и снова нажимают одну из кнопок, S3 или S4.

А теперь посмотрим, как этот простейший алгоритм реализован в устройстве В10Е известной фирмы (рис. 4). Полупроводниковые приборы, установленные по краям печатной платы, прижимаются при сборке к радиатору, которым служит корпус устройства (рис. 4а). Электронный блок устройства содержит:

  • 13 электромагнитных реле;
  • 14 микросхем различного назначения;
  • 10 выпрямительных диодных мостов на ток 1 А;
  • 2 мощных диода типа 40EPS08 (40 А, 800 В);
  • 4 мощных транзистора типа BUX98AP (24 А, 1000 В);
  • 3 мощных симистора типа BTA26-400B (25 А, 400 В);
  • 4 тиристора типа BTW69-600 (50 А, 600 В);
  • 2 прецизионных токовых шунта типа PBV и т. д.
Устройство В10Е

Рис. 4. Устройство В10Е:
а) электронный блок;
б) силовой блок:
1 — многообмоточный трансформатор с набором различных выходных напряжений для питания электронных узлов устройства;
2 — регулируемый автотрансформатор;
3 — плата датчика угла поворота вала автотрансформатора

Признаюсь честно, когда я открыл это устройство с целью его ремонта, то был просто в шоке от увиденного. Особенно меня умилил электронный датчик угла поворота вала автотрансформатора вместо простейшего микропереключателя (как на рис. 3). Налицо полное несоответствие простейших функций, выполняемых устройством, его технической реализации. Интересно, какое оправдание всему этому нагромождению электроники дали бы разработчики данного устройства?

Два модуля блока управления тиристорами ВЗПА, разработанные и выпускавшиеся в массовом количестве с 70 х годов прошлого столетия компанией AEG

Рис. 5. Два модуля блока управления тиристорами ВЗПА, разработанные и выпускавшиеся в массовом количестве с 70 х годов прошлого столетия компанией AEG:
а) импульсный модуль, формирующий импульсы управления тиристорами;
б) аналоговый модуль, контролирующий выходной ток ВЗПА и выдающий сигнал на импульсный модуль

А вот еще один пример из области выпрямительных зарядно-подзарядных агрегатов (ВЗПА), широко применяемых на электростанциях и подстанциях в системах оперативного постоянного тока. Такой агрегат состоит из следующих основных узлов: силового трансформатора, блока силовых тиристоров и электронного блока управления тиристорами. В начале 70‑х годов прошлого века фирмой AEG был разработан электронный блок управления тиристорами ВЗПА (рис. 5) который оказался настолько удачным, что применяется вот уже более сорока лет различными производителями в различных моделях ВЗПА. Причем одни производители просто полностью скопировали этот блок, а другие перевели его на современную элементную базу (рис. 6), что, конечно, не меняет сути.

Блок управления тиристорами ВЗПА, выполненный на современной элементной базе по схеме, разработанной AEG в 70 х годах прошлого века

Рис. 6. Блок управления тиристорами ВЗПА, выполненный на современной элементной базе по схеме, разработанной AEG в 70 х годах прошлого века

К сожалению, как ни хорошо зарекомендовала себя аналоговая техника в системе управления ВЗПА на протяжении почти 45 лет, и по надежности и по ремонтопригодности, к настоящему времени можно констатировать, что она уже почти полностью вытеснена цифровыми устройствами на базе микропроцессоров. Какие же новые качества приобрели современные ВЗПА серии Apodys фирмы Chloride France S. A. с микропроцессорным управлением (рис. 7)?

ВЗПА

Рис. 7.
а) ВЗПА;
б) комплект основных модулей управления микропроцессорного ВЗПА

Да вот какие: «ветвистое» меню, в котором не так-то просто разыскать нужную функцию, вместо трех потенциометров регулирования выходного напряжения и переключателя режимов работы; IP-адрес и сетевое подключение, позволяющее вмешиваться в работу ВЗПА хакерам; модемную связь между внутренними модулями вместо обычных медных проводов и так далее.

Устройство типа MCT1600 фирмы Megger для проверки трансформаторов тока

Рис. 8. Устройство типа MCT1600 фирмы Megger для проверки трансформаторов тока

Описание примеров «взрыва сложности» можно было бы продолжать. Так, можно было бы упомянуть устройство типа MCT1600 фирмы Megger (рис. 8) для проверки сопротивления изоляции, коэффициента трансформации и точки перегиба вольтамперной характеристики трансформаторов тока, которое при включении загружает полноценную операционную сис-тему VX Works (64‑битная операционная система реального времени), или измерители сопротивления той же фирмы, прошедшие эволюцию от миниатюрного приборчика с генератором, вращаемым ручкой, до чрезвычайно сложных микропроцессорных агрегатов (рис. 9).

Приборы для измерения сопротивления изоляции производства фирмы Megger

Рис. 9. Приборы для измерения сопротивления изоляции производства фирмы Megger:
а) WM6 — простейший прибор с генератором и рукояткой для вращения якоря;
б) S1-5010 — сложнейшее микропроцессорное устройство

Типичный пример «взрыва сложности» в электроэнергетике — это Smart Grid. Известно, что концепция «умной сети» предполагает установку микропроцессоров на все без исключения элементы системы производства, распределения и учета электроэнергии и организацию между ними информационных каналов на основе компьютерных сетей, преимущественно беспроводных (Wi-Fi). По идее апологетов Smart Grid энергосистема будущего должна выглядеть как современная навороченная сетевая компьютерная игра с тысячами участников — компонентов электрических сетей. Одним из центральных участников этой «игры» является микропроцессорная релейная защита: c искусственным интеллектом, самоадаптируемая, с недетерминированной логикой, упреждающего действия, то есть действующая самостоятельно и по своему усмотрению [8].

Дешевизна и доступность микропроцессоров, промышленных контроллеров и современных электронных компонентов высокой степени интеграции, огромная и все расширяющаяся номенклатура таких компонентов, имеющихся на рынке, чрезвычайно высокая производительность оборудования, предназначенного для автоматической установки и распайки элементов поверхностного монтажа на печатную плату, автоматические системы тестирования готовых печатных плат — все это снимает имевшиеся ранее ограничения на сложность электронных систем и область их применения. В связи с чем сейчас микропроцессоры можно найти уже повсюду. Такое быстро расширяющееся, как наша Вселенная, применение электронных узлов на основе микропроцессоров во всех областях техники при непрекращающемся их усложнении и является сегодня определяющей тенденцией развития техники. Апологеты технического прогресса в его нынешнем виде пытаются убедить всех в том, что такое непрерывное и все нарастающее усложнение техники и есть «технический прогресс». Конечно, есть такие области техники и технологии, в которых без вычислительных операций и без микропроцессоров просто не обойтись и микропроцессорная техника действительно позволила совершить технологический скачок. Однако далеко не во всех случаях применения микропроцессорной техники оно реально обосновано техническими требованиями к изделию, причем количество таких случаев возрастает как снежный ком и приведенные примеры лишь слабая иллюстрация этого процесса.

Но если усложнение техники часто совершенно не оправдано, как было показано выше, то почему же она все-таки непрерывно усложняется, причем все возрастающими темпами? Ответ достаточно прост: в постоянном усложнении техники заинтересованы разработчики и производители, поскольку такое постоянное и целенаправленное усложнение позволяет им достичь сразу нескольких целей:

  • во‑первых, повысить эффективность рекламной кампании, предлагая потребителю все большее количество новых функций в новых изделиях (далеко не всегда действительно нужных);
  • во‑вторых, снижать надежность и срок службы (что является естественным результатом усложнения), то есть заставлять потребителя чаще приобретать новую продукцию;
  • в‑третьих, постоянно снижать ремонтопригодность производимой продукции и усиливать зависимость покупателя от производителя. Самые современные электронные устройства и приборы, выполненные по технологии поверхностного монтажа, допускают ремонт только путем замены целых блоков, изготовляемых все тем же производителем. Во многих случаях стоимость этих блоков несоразмерно высока, но потребитель вынужден приобретать эти блоки по явно завышенной цене.

Таким образом, во многих случаях усложнение техники стало искусственным процессом, часто не имеющим объективной основы, инициируемым производителями с целью дополнительного обогащения.

Но насколько безобиден такой процесс развития техники?

По утверждению заслуженного деятеля науки РФ, д. т. н., профессора, начальника 46 ЦНИИ МО РФ генерал-майора В. М. Буренка [9], «технологическое развитие таит в себе такое множество угроз, разнообразие и последствия влияния которых непредсказуемы для судьбы цивилизации… За последние годы научно-технологический прогресс подарил миру многие технические блага, а с ними и непреходящую головную боль. Примеры: компьютерные технологии и кибертерроризм, современные инфокоммуникационные системы и информационные войны, сложные системы управления инфраструктурными и техническими объектами и тяжелейшие последствия при нарушениях в их работе, познание основ жизни и генномодифицированные продукты, появление возможности искусственного выращивания опасных вирусов и т. д. Причем многие из угроз, генерируемых новыми технологическими возможностями, проявлялись не сразу и не могли быть предсказаны (либо такого рода предсказатели числились заштатными фантастами и чудаками, которых всерьез воспринимать не стоит)».

А вот что об этом пишет академик Н. Н. Моисеев: «…научно-технический прогресс, рост мощности цивилизации сулят не только блага. Силою, которую он дает людям, еще надо уметь пользоваться. Человек оказывается теперь в положении Гулливера, который вошел в хрустальную лавку лилипутов. Одно неосторожное движение — и все ее хрустальное великолепие превратится в гору битого стекла».

Зная о существующих опасностях, можно было бы, наверное, попытаться предотвратить их. Но вот что пишет об этом уже цитировавшийся выше известный специалист [9]: «Даже когда облик какой-то технической системы уже давно сформирован, но появились новые угрозы, прогнозирование ситуации также не покажется простой задачей. Редкий аналитик возьмется, например, спрогнозировать последствия хакерской атаки на систему управления, скажем, атомной или крупной гидроэлектростанцией, систему управления воздушным или железнодорожным движением. Прогнозы типа «это будет ужасно», «неизбежны колоссальные потери» никого не устроят, а оценки типа «вероятность выброса в атмосферу радиоактивных веществ в объеме N будет равна p», «количество авиакатастроф в воздушной зоне с вероятностью р достигнет значения К» получить весьма непросто. Для того чтобы это сделать (спрогнозировать), нужны модель системы (объекта), практически адекватная реальной системе, знание уровня развития хакерского мастерства, способы проникновения в атакуемую систему и т. д. Но, во‑первых, это сделать практически невозможно, а во‑вторых, при наличии такой модели ее попадание в руки злоумышленников (хакеров) делает шансы на бесперебойное функционирование этой системы весьма призрачными».

Ему вторит известный астрофизик Л. М. Гиндилис, который отмечает в своей работе [10]: «Острота ситуации состоит в том, что коллапс должен наступить очень скоро, в первых десятилетиях XXI века. Поэтому, если бы даже человечество знало, как «повернуть» (или хотя бы приостановить) этот процесс, обладало бы средствами и волей для того, чтобы осуществить поворот уже сегодня, — у него просто не хватило бы времени, так как все негативные процессы обладают определенной инерцией, в силу которой их невозможно немедленно остановить… Экономика Земли похожа на тяжело груженный транспорт, который на большой скорости мчится по бездорожью прямо к бездне. Видно, мы уже проскочили точку, где надо было свернуть, чтобы вписаться в «траекторию поворота». И затормозить тоже не успеваем. Положение усугубляется тем, что никто не знает, где находятся руль и тормоз. Тем не менее и экипаж, и пассажиры настроены весьма благодушно, наивно полагая, что, «когда понадобится», они разберутся в устройстве транспорта и смогут совершить необходимый маневр».

 

Заключение

В заключение приведем слова основоположника теории технологической сингулярности Вернора Винджа: «Если технологической сингулярности суждено быть, то она случится. Даже если все государства мира осознают «угрозу» и перепугаются до смерти, прогресс не остановится. Конкурентное преимущество — экономическое, военное, даже в сфере искусства — любого достижения в средствах автоматизации является настолько непреодолимым, что запрещение подобных технологий просто гарантирует, что кто-то другой освоит их первым. Я уже выражал сомнение в том, что мы не можем предотвратить сингулярность, что ее наступление есть неминуемое следствие естественной человеческой соревновательности и возможностей, присущих технологиям».

В статье рассматривался естественный (если можно применить этот термин к технике) ход развития техники и технологий. Но ведь существует еще одна сторона проблемы, которая никогда не рассматривалась в философии техники. Речь идет о развивающихся параллельным курсом средствах уничтожения техники. По мере усложнения техники и все большей ее «электронизации» и «компьютеризации» растет ее уязвимость к преднамеренным дистанционным деструктивным воздействиям, включающим кибернетические и электромагнитные [11]. Поэтому разработчиками систем вооружения все большее внимание уделяется созданию новых видов оружия, направленных на поражение исключительно техники, а не человека. И это тоже часть «технического прогресса», незаслуженно исключенная из рассмотрения философией техники. Ведь внезапное разрушение сложных электронных систем и разветвленных компьютерных сетей, на которых основана современная цивилизация, может привести к коллапсу этой самой цивилизации.

Таким образом, для современного общества чрезвычайно опасными являются не одна, две противоположные тенденции: как бесконтрольное развитие, ведущее к сингулярности, так и все возрастающая опасность внезапного преднамеренного разрушения самой современной техники специальными видами оружия.

Но не хотелось бы заканчивать на такой пессимистической ноте, поскольку, несмотря на то, что технический прогресс действительно остановить невозможно, речь идет все-таки о Homo Sapience — Человеке Разумном, который если не предотвратить, то хотя бы смягчить последствия такого «прогресса» может и должен. В первую очередь действия по «смягчению» последствий технического прогресса должны касаться таких важнейших инфраструктур, как энерго- и водоснабжение, системы связи. Но для этого общество и государственные чиновники, облеченные властью, должны для начала хотя бы осознать существование опасности и инициировать создание технологий, направленных на смягчение последствий технического прогресса. Первой попыткой создания технологий, направленных на смягчение последствий технического прогресса в области электроэнергетики, можно считать книгу «Уязвимости микропроцессорных реле защиты: проблемы и решения», недавно выпущенную издательством «Инфра-Инженерия» [11], которая не должна остаться незамеченной.

Литература
  1. Попкова Н. В. Философия техники // Интернет-портал Брянского отделения Российского философского общества.
  2. Vinge V. The coming technological singularity: How to survive in the post-human era. — NASA. Lewis Research Center, Vision 21: Interdisciplinary Science and Engineering in the Era of Cyberspace (SEE N94-27358 07-12). 1993. № 12.
  3. Moore G. E. Cramming More Components onto Integrated Circuits. — “Electronics”, April 19, 1965.
  4. Сухарев М. Взрыв сложности // Компьютерра. 1998. № 43 — http://offline.computerra.ru/1998/271/1828 /ссылка устарела/
  5. Негодаев И. А. Философия техники. Учебное пособие ДГТУ. Ростов‑на-Дону. 1998.
  6. Лопота В. А., Юревич Е. И. Унифицированные микросистемные мехатронные модули — основа интеллектуальной техники будущего // Искусственный интеллект. 2002. № 3.
  7. Безменов А. Е. Допуски, посадки и технические измерения. Учебник для техникумов. М.: Машиностроение. 1969.
  8. Гуревич В. И. Микропроцессорные реле защиты. Устройство, проблемы и перспективы. М.: Инфра-Инженерия. 2011.
  9. Буренок В. М. Как обеспечить обороноспособность России в будущем? — Военно-промышленный курьер, вып. № 39 (507). 2013.
  10. Гиндилис Л. М. Модели цивилизаций в проблеме SETI // Общественные науки и современность. 2000. № 1.
  11. Гуревич В. И. Уязвимости микропроцессорных реле защиты: проблемы и решения. М.: Инфра-Инженерия, 2014.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *