что значит черный ящик в информатике
Черный ящик
Чёрный ящик — термин, используемый в точных науках (в частности, системотехнике, кибернетике и физике) для обозначения системы, механизм работы которой очень сложен, неизвестен или неважен в рамках данной задачи. Такие системы обычно имеют некий «вход» для ввода информации и «выход» для отображения результатов работы. Состояние выходов обычно функционально зависит от состояния входов.и.т.д
Механизм неважен
Типичным примером может служить розетка электрической сети: её можно рассматривать как источник переменного напряжения известного действующего значения (220 В) и частоты (50 Гц). Известно, что к одной розетке можно подключить любое количество потребителей. Однако под «любым количеством» подразумевается, что их общее сопротивление будет достаточно велико. Если же сопротивление мало, то приходится учитывать такие эффекты, как сопротивление проводов розетки, максимальный ток, который способны пропустить предохранители, и так далее.
Механизм известен
Цель: выделить индивидуальные, присущие только данному сигналу свойства. Свойства: способность отделять не существенные признаки, свойства, от существенных присущих только данному сигналу. Функции: определение индивидуальных признаков свойств сигналом и классификация сигналов по однородным признакам, свойствам.
Цель: разделение сигналов по признакам и распределение их в системе в соответствии с её потребностями. Свойства: способность разделять сигналы по свойствам и распределять их в системе в соответствии с заданной программой. Функции: разделение и распределение сигналов в системе.
Цель: преобразование сигналов, преобразование свойств сигналов в соответствии с заданной программой. Свойства: способность изменять имеющиеся свойства поступивших сигналов в заданные свойства. Функции: изменение свойств, качественных и количественных параметров сигналов в свойства с заданными количественными и качественными параметрами.
Цель: объединение преобразованных сигналов в новые структуры с новыми заданными свойствами. Свойства: способность устанавливать функциональные связи между отдельными сигналами, то есть формирование системы с новыми свойствами.
Цель: перемещение сигналов из точки А, в заданную точку Б, то есть от одного механизма к другому. Свойства: способность перемещать сигналы во времени и пространстве. Функции: перемещение сигналов с заданными параметрами, в заданное место системы. Перемещение может осуществляться по горизонталям, по вертикалям и диагоналям. Перемещение может осуществляться как вперед, так и назад (реверсивно)
Каждый из этих механизмов имеет весь представленный набор в своём составе.
См. также
Полезное
Смотреть что такое «Черный ящик» в других словарях:
ЧЕРНЫЙ ЯЩИК — «ЧЕРНЫЙ ЯЩИК», термин, употребляемый главным образом в системотехнике для обозначения систем, структура и внутренние процессы которых неизвестны или очень сложны; метод изучения таких систем основан на исследовании их реакций (изменений выходных… … Энциклопедический словарь
ЧЕРНЫЙ ЯЩИК — термин, употребляемый главным образом в системотехнике для обозначения систем, структура и внутренние процессы которых неизвестны или очень сложны; метод изучения таких систем основан на исследовании их реакций (изменений выходных сигналов) на… … Большой Энциклопедический словарь
ЧЕРНЫЙ ЯЩИК — ЧЕРНЫЙ ЯЩИК, устройство для автоматической записи данных во время эксплуатации самолета. Следователи анализируют эти данные после аварии или неисправной работы. Небольшой самолет обычно снабжается только речевым самописцем в кабине экипаже (РСК) … Научно-технический энциклопедический словарь
Черный ящик — С английского: Black box. Из книги (гл. 6) «Введение в кибернетику» (1956) Уильяма Эшби. Под «черным ящиком» имелась в виду система, устройство которой неизвестно, но известно, как она реагирует на внешние воздействия. Термин заимствован из… … Словарь крылатых слов и выражений
ЧЕРНЫЙ ЯЩИК — «ЧЕРНЫЙ ЯЩИК», Беларусь, БЕЛАРУСЬФИЛЬМ, 1995, ч/б, 9 мин. Новелла. Инвалид, бывший военный летчик афганец переживает подробности своего последнего полета, завершившегося катастрофой. В ролях: Анатолий Котенев (см. КОТЕНЕВ Анатолий), Олег Корчиков … Энциклопедия кино
Черный ящик — термин, употребляемый главным образом в системотехнике для обозначения систем, структура и внутренние процессы которых неизвестны или очень сложны; метод изучения таких систем основан на исследовании их реакций (изменений выходных сигналов) на… … Политология. Словарь.
Черный ящик — «Черный ящик» [blackbox] понятие кибернетики, с помощью которого пытаются справиться с трудностью изучения сложных систем. Представление системы в виде «Ч.я.» означает, что при настоящем уровне наших знаний мы не можем… … Экономико-математический словарь
черный ящик — Объект с недоступной (неизвестной) структурой. Этим объектом может быть как устройство, так и программа. Понятие черного ящика позволяет определить функции, выполняемые объектом, используя для этой цели его входы и выходы. При таком подходе на… … Справочник технического переводчика
ЧЕРНЫЙ ЯЩИК — Термин, заимствованный из физики, где он использовался для описания модели функционирования любой сложной системы, основанной на выдвижении гипотез относительно внутренних конструкций, механизмов и процедур этой системы. Основной смысл здесь… … Толковый словарь по психологии
ЧЕРНЫЙ ЯЩИК — (сленг.) маркетинговый прием, модель поведения покупателей, отражающая процесс принятия решения о покупке, где фиксируется только поведение покупателя во время самой покупки. Мотивы, критерии и установки, повлиявшие на решение, во внимание не… … Энциклопедический словарь экономики и права
Учитель информатики
Сайт учителя информатики. Технологические карты уроков, Подготовка к ОГЭ и ЕГЭ, полезный материал и многое другое.
Объясните смысл выражения чёрный ящик
Объясните смысл выражения чёрный ящик. С какими чёрными ящиками человек сталкивается в быту?
Ответ
Очень часто человек не знает, как «внутри» устроена система, с которой он имеет дело. Человеку куда важнее знать, к каким результатам на выходе приведут определенные воздействия на входе системы.
В таких случаях говорят, что система рассматривается как «черный ящик».
Черный ящик — это абстрактное понятие, когда известно что в него входит и что выходит, но не объясняется как это происходит.
Например, всякие инструкции для пользователей сложной бытовой техники являются описаниями «черного ящика». В них объясняется, что нужно сделать на входе (включить, нажать, повернуть и пр.), чтобы достичь определенного результата на выходе (постирать белье, получить фруктовый сок, выполнить. вычисления и пр.). Однако, что при этом происходит «внутри», не объясняется.
Инструкция к мобильному телефону — вставьте сим-карту, вставьте аккумулятор, включите телефон, нажмите вызов и т.д. На выходе получаем — разговор с товарищем. А вот как это внутри все происходит и получается, что мы дозвонились — это не объясняется.
Еще один пример — телевизор. Нажимаешь кнопочку на телевизоре — переключается канал, но как это происходит — неизвестно, если ты конечно не создал этот телевизор.
Объяснимый искусственный интеллект: понимание черного ящика
Черный квадрат — знаковая картина советского художника Казимира Малевича. Первая версия написана в 1915 году. Черный квадрат впечатляет искусствоведов и сегодня, но на своих современников не произвел впечатления и хранился в таких плохих условиях, что сильно потрескался и обветшал.
Сложные алгоритмы машинного обучения могут быть математическим произведением искусства, но если эти «алгоритмы черного ящика», которые мы не видим, не смогут произвести впечатление и завоевать доверие пользователей, они могут быть проигнорированы, как Черный квадрат Малевича. Как сделать все понятнее для юзеров — в материале под катом.
Значительный успех машинного обучения привел к всплеску в приложениях искусственного интеллекта. Достижения в машинном обучении и рост вычислительных мощностей привели к разработке интеллектуальных систем, которые применяются, чтобы рекомендовать фильм, диагностировать злокачественную опухоль, принимать инвестиционные решения или вести машину без водителя. Однако эффективность этих систем ограничена невозможностью объяснить решения и действия пользователю. Множество таких приложений, применяющих ML, работают «внутри черного ящика», предлагая небольшое, если вообще заметное, объяснение того, как они достигают результатов.
Вековая проблема
Проблема объяснения машинного обучения очень распространена, с ней сталкивалось большинство специалистов по данным. В опросе на Kaggle из 7000 специалистов по обработке данных, четыре из семи главных «барьеров, с которыми сталкиваются на работе», не технические, но связаны с «проблемами последней мили»:
Раз за разом случается, что какой-нибудь невежественный или самонадеянный член совета директоров нарушает тщательно продуманный план человека, который знает факты, просто потому, что человек с фактами не может представить их достаточно понятно, чтобы преодолеть сопротивление…. Эффективная презентация подобна собору на фундаменте данных.
Компромисс точности и объяснимости
Специалистам приходится иметь дело с компромиссом между интерпретируемостью и точностью, то есть между сложными моделями, работающими с разноплановыми данными, и менее сложными моделями, которые легче интерпретировать, но которые менее точны.
При работе с большими разноплановыми наборами данных необходимо использовать все эти переменные для построения модели и получения точных результатов. По мере использования большего числа переменных их связь с целевой переменной и взаимодействие между различными независимыми переменными делают модель все более сложной.
Нецелесообразно моделировать нелинейные зависимости с помощью линейных моделей и ожидать точных результатов
Так должны ли мы построить точную модель или пожертвовать точностью и построить интерпретируемую модель?
Есть сильные движущие факторы с обеих сторон. При больших объемах данных у безвредного приложения для принятия решений, типа рекомендательной системы фильмов, высокоточная модель черного ящика является жизнеспособным вариантом. Однако в критически важных системах для принятия инвестиционных решений или в медицинской диагностике объяснимость может быть важнее.
Нормативные требования также могут повлиять на ваше решение. Если модели банковского кредитования и мошенничества являются черными ящиками, то регуляторы не могут их рассмотреть или понять. Если такие алгоритмы не будут точно оценивать риски, то финансовая система может оказаться под угрозой, как мы видели во время финансового кризиса 2008 года. Неудивительно, что многие регулирующие органы настаивают на том, чтобы модели кредитования и риска поддавались интерпретации.
Программа XAI от DARPA
Агентство перспективных оборонных исследовательских проектов (DARPA) Министерства обороны Соединенных Штатов, ответственное за разработку новых технологий, постоянно проводит программу Explainable AI (XAI).
Программа eXplainable AI (XAI) направлена на создание набора методов машинного обучения, которые:
Разработчики системы XAI, подходы и проблемные области
Это постоянная программа, и потребуется несколько лет, чтобы ее результаты были поняты, приняты и доступны на популярных языках программирования, таких как Python и R.
Что мы имеем сейчас?
LIME (локально интерпретируемая модельно-агностическое объяснение) объясняет классификатор для конкретного единичного экземпляра и поэтому подходит для локального рассмотрения. Интуитивно понятно, что объяснение — это локальное линейное приближение поведения модели. Хотя модель может быть очень сложной в глобальном масштабе, ее легче приближать в непосредственной близости от конкретного случая.
LIME аппроксимирует локальный линейный суррогат сложной модели
SHAP (Аддитивное объяснение Шепли) — еще один метод объяснения индивидуальных прогнозов. SHAP основан на игре теоретически оптимальных значений Шепли. Техническое определение значения Шепли — это “средний предельный вклад значения характеристики во все возможные коалициям. ”
SHAP определяет предельный вклад каждой функции в достижение выходного значения, начиная с базового значения.
Другими словами, значения Шепли рассматривают все возможные прогнозы экземпляра с использованием всех возможных комбинаций входных данных. Благодаря такому исчерпывающему подходу SHAP может гарантировать согласованность и локальную точность.
LIME против SHAP
LIME создает суррогатную модель локально вокруг единицы, прогноз которой вы хотите понять. Таким образом, он по своей сути локален. Значения Шепли делают декомпозицию окончательного прогноза на вклады каждого признака. Так зачем кому-то использовать LIME? LIME работает быстро, а SHAP требуют много времени из-за их исчерпывающих вычислений.
Другие варианты
Помимо LIME и SHAP, есть и другие инструменты искусственного интеллекта для лучшего объяснения ваших моделей.
AIX360 от IBM — расширяемый набор инструментов, который предлагает исчерпывающий набор возможностей для улучшения объяснимости вашей модели. Соответствующий пакет Python AI Explainability 360 включает в себя алгоритмы, охватывающие различные метрики объяснений наряду с посредническими метриками объяснимости
What-if предоставляет инструменты для визуального исследования поведения обученных моделей с помощью минимального количества кода.
Построение доверия с заинтересованными сторонами
Проводя параллель с разработкой рецептурных лекарств, мы принимаем назначенные врачом лекарства потому, что доверяем квалификации врача и доверяем строгости клинических испытаний, которые препарат прошел до выхода на рынок. Регулирующие органы, такие как FDA, определили процессы и протоколы, чтобы обеспечить безопасность и эффективность лекарств.
Точно так, если мы следуем строгому процессу и гарантируем, что каждая модель прошла одни и те же этапы выдвижения гипотез, проверки и тестирования, то можем выстроить доверие с заинтересованными сторонами бизнеса в том, что касается эффективности моделей машинного обучения. Таким образом, модель должна приниматься и уверенно интегрироваться в бизнес как обычные процессы.
Обуздать искусственный интеллект и машинное обучение можно под чутким руководством наших менторов. А промокод HABR дает дополнительную скидку 10%, которая суммируется со скидкой на баннере.
Модели систем. Модель черного ящика. Модель состава
Урок 2. Информатика 11 класс ФГОС
В данный момент вы не можете посмотреть или раздать видеоурок ученикам
Чтобы получить доступ к этому и другим видеоурокам комплекта, вам нужно добавить его в личный кабинет, приобрев в каталоге.
Получите невероятные возможности
Конспект урока «Модели систем. Модель черного ящика. Модель состава»
На данном уроке мы познакомимся с такими понятиями как анализ, синтез, системный анализ. Вспомним модель «чёрного ящика» и модель состава.
Система – это целостная и взаимосвязанная совокупность частей, существующая в некоторой среде и обладающая определённым назначением, подчинённая некоторой цели.
Человеческое общество развивается благодаря открытиям, исследованиям, экспериментам и любая система подлежит изучению.
Исследование системы включает в себя два этапа: анализ и синтез.
Анализ системы – это выделение её частей с целью прояснения состава системы.
Как нам уже известно, любая система состоит из подсистем. В свою очередь, любая подсистема состоит так же из нескольких подсистем. Таким образом, мы может разделить систему на самые мелкие объекты.
Возникает вопрос: а нужно ли нам это?
На первом этапе необходимо проанализировать систему для определения её состава и цели исследования. Целью исследования системы является получение её модели. Модель – это новый упрощённый объект, который отражает существенные особенности реального объекта, процесса или явления.
Соответственно с помощью модели мы можем получить необходимые нам результаты исследований. Например, узнать, как будет лететь самолёт при большой нагрузке багажом.
Далее необходимо выделить в системе связи между её частями. Например: основные компоненты велосипеда (рама, руль, колеса, педали, сиденье) зависят друг от друга. Качество данной системы – возможность ездить на велосипеде. Ни одна составная часть не обладает этим свойством. Но в свою очередь если собрать их вместе, связать их в одно целое, то появляется такое качество, как возможность ездить на велосипеде.
Состояние и поведение системы в той или иной ситуации можно понять и изучить только при наличии её состава и структуры.
Это был первый этап исследования системы.
Синтез – это мысленное или реальное соединение частей в единое целое. В результате данного этапа создаётся представление о системе, объясняется механизм системного эффекта.
Вывод: системный анализ – это исследование реальных объектов и явлений с точки зрения системного подхода, состоящее из этапов анализа и синтеза.
Любое описание системы отражает ограниченное число её свойств. Это зависит от того, с какой целью мы делаем описание, какие именно качества системы нам нужны.
На этом уроке мы познакомимся с моделью «чёрного ящика».
Есть такое понятие «Система как «чёрный ящик». Оно употребляется в том случае, если человек не знает, как устроена та или иная система «внутри» или эта система не представляет для него интереса. Часто достаточно знать, какие действия можно производить с системой, и какие результаты при этом можно получить.
Вход системы – это воздействие на систему со стороны внешней среды, а выход – это воздействие, которое оказывает система на окружающую среду.
Мы можем понимать, например, что объект на компьютере можно открыть двойным нажатием левой кнопкой мыши на нём. Входом будет нажатие клавиши мыши, а выходом – открытие документа. Но мы не знаем, как это происходит в системном блоке, сам процесс нам не понятен. В таких случаях и применяется понятие «система как «чёрный ящик».
Представить систему как «чёрный ящик» – значит указать её входы и выходы, а также зависимость между ними.
Если описать компьютер как «чёрный ящик», учитывая только входы и выходы системы, то получится, что входом системы являются данные программы, а выходом – итоговая информация.
Вывод: модель «чёрного ящика» представляет систему на уровне описания связей её входов и выходов.
Но в то же время, при решении вопросов, которые касаются внутреннего устройства системы, мы не можем ограничиться лишь моделью «чёрного ящика». Можно сказать, что данные, которые мы получаем при рассмотрении модели «чёрного ящика» по большей части являются лишь внешними свойствами системы.
Поэтому приходится обращаться к модели состава. Модель состава – это своеобразный список элементов системы. В данной системе не рассматриваются связи между её элементами.
Разберёмся более подробно на модели состава школы.
Любая школа состоит из администрации, учителей, учеников, учебных классов и родителей. На данной схеме мы видим пять составляющих нашей системы. Каждая из них является подсистемой со своим составом. Для этих подсистем можно также построить свои схемы состава. Например, учеников можно разделить по параллелям с первых по одиннадцатые классы. Или же учителей можно разделить на начальную и старшую школы.
Очевидно, что такой модели будет мало, если мы захотим разобраться, как функционирует школа. Но с другой стороны, она даёт более подробное представление, чем модель «чёрного ящика».
Сегодня мы узнали, что такое системный анализ, познакомились с такими моделями как модель «чёрного ящика» и модель «состава».