Нейронная сеть научилась аргументировать свои решения. Это прорыв

7-04-2018, 18:09 Новости » Нейронная сеть научилась аргументировать свои решения. Это прорыв

В области искусственного интеллекта существует так называемая проблема «черного ящика» – именно из-за нее мы не можем до конца доверять разумным системам. Дело в том, что не очень понятно, как искусственный интеллект принимает решение, какой процесс и аргументы его к нему приводят. Предыдущий опыт показал, что алгоритм имеет склонность к предвзятым решениям. А также склонен проводить аналогии там, где этого не следовало бы делать. Выяснив, почему нейронная сеть действует именно так, можно решить одну из самых больших проблем в области искусственного интеллекта.

В состав команды, которая попробовала работать с этой темой, входили исследователи из Калифорнийского университета в Беркли, Амстердамского университета, MPI for Informatics и Facebook AI Research. В результате команда разработала искусственный интеллект для ответа на простые языковые вопросы об объектах и действиях на изображении – это требует уровня среднего интеллекта девятилетнего ребенка.

Достижение этой новой работы в том, что теперь искусственный интеллект объясняет свои ответы, аргументируя, что он видел, а также выделяет соответствующие части изображения. Более того, в результате впервые создали систему, которая могла бы объяснить свое решение двумя различными способами. «Наша модель является первой, которая способна обеспечить природные обоснования, а также представлять доказательства в изображении», – рассказывают ученые.

К примеру, алгоритму показывали изображения зебр в дикой природе и в клетке, а потом спрашивали, на какой из картинок зоопарк. Нейронная сеть не только указывала на второй снимок, но и объясняла, что здесь животные находятся в закрытом помещении, а на другом фото они стоят в естественной среде обитания.

При этом ошибки пока тоже случаются. К примеру, во время экспериментов искусственный интеллект иногда не мог понять, улыбается человек или нет. Ученые реагируют на этот факт со спокойствием: «Когда компьютер ошибается, нам нужно знать причину. Для того чтобы область искусственного интеллекта достигла в каком-то смысле зрелости, нам понадобятся многочисленные проверки ошибок, диагностика и методика понимания процесса принятия решений для машин. И все же нейронные сети продвигаются и становятся нашим основным источником анализа данных».

Также читайте: