| ||
На счет концепции согласен полностью.Сообщение от pEtr0
На счет узкой темы - не совсем, в идеале нужно научить программу самостоятельно находить нужные знания в сети.
Написать скрипт который позвотит использовать поисковые системы (ya.ru , rambler...), т.е. делать запрос , закачивать страницы-результаты - это элементарно. Задача в том что-бы получив текст бот мог его "понять" - уложить информацию в какуюто схему, структуру...... и далее использовать при общении.
Мое мнение такое. Для общения на естественном языке нужны два типа знаний: знания о предметной области и знания о самом языке. Причем эти два типа знаний не зависят друг от друга (ну или не сильно зависят).
Вот я и предлагаю сначала уделить наибольшее внимание зананиям второго типа, а предметную область для этого можно выбрать любую, главное чтобы она не отвлекала от основной задачи.
Ну это совсем в идеале... Сначала надо хотя-бы ркшить задачу обучения с помощью собеседника, а потом уже пытатся заставить систему обучатся самостоятельно.
Мое мнение такое. Для общения на естественном языке нужны два типа знаний: знания о предметной области и знания о самом языке. Причем эти два типа знаний не зависят друг от друга (ну или не сильно зависят).
Вот я и предлагаю сначала уделить наибольшее внимание зананиям второго типа, а предметную область для этого можно выбрать любую, главное чтобы она не отвлекала от основной задачи.
мне кажется что знания второго типа - это скорее алгоритм а не информиция, т.е. он по идее должен быть "вшит" в программу. На счет того что этим надо занятся в первую очередь - так это однозначно
возможно нужно четко дать определение слову "обучение"... тогда будет больше пониманияНу это совсем в идеале... Сначала надо хотя-бы ркшить задачу обучения с помощью собеседника, а потом уже пытатся заставить систему обучатся самостоятельно.
Сейчас у меня главная задача - собрать коллектив.
Хороший коллектив.
Команду.
Это не просто.
Но только совместная работа в дружной и сплоченной группе даст результаты.
Поэтому буду признателен всем тем, кто даже не принимая участия в проекте, не поленится рассказать о нем своим друзьям и знакомым, которым это может быть интересно.
Согласен. Но коллектив нужно собирать вокруг какой-то идеи, в которую все должны верить, тем более что работа будет основана на чистом энтузиазме.
В любом случае тема очень сложная но и очень интересная. Если она получит серьезное развитие, буду рад поучаствовать или хотябы просто пообщатся
возможно идея может быть выражена целью, а путь достижения сформирован всей командой
не факт
пока без коментариев, но думаю через несколько месяцев будет о чем говорить
В любом случае тема очень сложная но и очень интересная. Если она получит серьезное развитие, буду рад поучаствовать или хотябы просто пообщатся
а вот это очень радует
хоть как-то болтающая - это программа проходящая тест Тьюринга в ограниченной предметной области. Например есть программы, которые проходят тест Тьюринга среди детей-школьников младших классов.наверное стоит определить что значит "хоть как-то" , т.к. прога описаная в первом посте тоже вроде болтает
Хотя я лично удовлетворился бы естественно-языковым запросчиком к текстовым базам данных/знаний. Эффективным. ИМХО такая весчь была бы полезнее, чем чатбот и стоила бы дороже, чем премия Лебнера.
ну, для меня будет сюрпризом существование алгоритма нахождения корней Диофантовых уравнений. Хотя с неалгоритмизируемостью речевых интерфейсов я конечно погорячился, информации о неалгоритмизируемости этих проблем у меня нет.алгоритм есть у всего
плюс естественно-языковой интерфейс. Т.е. почти ВСЕ, что надо для создания чатбота имитирующего человека. Хотя я конечно не агитирую, просто это первое, что вспомнилось.к сожалению глубоко не вникал, вроде огромная база данный утверждений о мире + правила построения логических выводов... могу ошибатся, но вроде ничего грандиозного из этого не получилось
ну, это мазохизм какой-то получается. ;-) можно и RISC-процессор на коленке спаять, просто сильно дорого и неэффективно.может есть смысл с чистого листа начать?
Классификация паттернов (нейронки, деревья решений, генетические алгоритмы, генетическое программирование, SVM) для одной финансовой конторы. Им это действительно нужно.Можно поинтересоватся каким именно практическим применением AI занимаешься?
могу скинуть свое видение проблемы, если интересно. Только оно несколько пессимистическое, увы...давай пообщаемся
100 % я тоже об этом думаю
Для четкости в понимании:
Есть любой текст (книга, учебник, help.doc и т.д.)
Задача в том что-бы на любой вопрос об информации содержащейся в этом тексте, программа могла ответить. Примерно так?
не спорюну, для меня будет сюрпризом существование алгоритма нахождения корней Диофантовых уравнений.
ну, это мазохизм какой-то получается. ;-) можно и RISC-процессор на коленке спаять, просто сильно дорого и неэффективно.
в принципе согласен, лично мне видимо нужно побольше теории почитать...
хм... интересно... это что скоринг? или фундаментальны анализ фондового рынка?
Классификация паттернов (нейронки, деревья решений, генетические алгоритмы, генетическое программирование, SVM) для одной финансовой конторы. Им это действительно нужно.
конечно скидывай!могу скинуть свое видение проблемы, если интересно. Только оно несколько пессимистическое, увы...
[email protected]
было бы интересно почитать ([email protected]), хотя лучьше здесь выложить
Если хозяи ветки не против, я бы выложил здесь, так как это не готовый рецепт, а скорее тема для обсуждения.
"хозяи ветки" - это ты про кого
Тема создавалась чтобы собрать не тллько коллектив, но и максимум инфы, мнений и личного опыта учасников форума.
тогда поехали. ;-)
Итак, прикинем для начала архитектуру нашего болтателя.
1. Естественно-языковой интерфейс - это то, что бросается в глаза, более того, после того как он туда бросился, кажется, что этого достаточно для реализации. ;-)
Однако с моей точки зрения, это всего лишь интерфейс, интерфейс, который может быть заменен с различной степенью эффективности другим интерфейсом (например GUI, XML, HTTP и т.п.) без принципиальной потери функциональности.
В самом деле, рассмотрев любой реальный диалог, можно увидеть в нем большое количество знакомых любому программисту или сетевику элементов - информативы ("блин, как теща достала..."), директивы ("а пошел бы ты на...") протоколы подтверждения ("Спасибо - пожалуйста", "дурак - сам дурак"), средства синхронизации состояний ("Ты меня уважаешь?" или "Эх, хорошо, Маша!") и т.п.
Если работать собственно с семантикой, то последовательность "Как дела любимая? - Все в порядке, милый!" полностью эквивалентна паре Get /current_state HTTP/1.0 - 200 ok. ;-)
И надежда построить реального болтателя только на ЕЯ - это надежда на создание сайта anekdot.ru пользуясть только http-протоколом и чувством юмора. Без сервера, html, веб-дезигнера и файловой системы. Да простит меня файловая система, за то, что я поставил ее после веб-дезигнера. ;-)
Короче, наполнение требуется. Т.е. некоторая база данных с некоторым содержимым.
2. База данных об общеупотребительных фактах. aka семантическая сеть. Пример - на уже приводившемся www.cyc.com
По моему мнению, эта компонента, несмотря на кажущуюся простоту наиболее сложна в реализации. Программисты-корпоратчики, способные написать драйвер мышки на Oracle с этим не всегда соглашаются, но мы их пока проигнорируем.
Пролема в том, что реляционнные технологии здесь нервно курит за дверью. Профессора-университетчики, способные доказать эстетичность нормальных форм Бойса-Кодда с этим тоже не всегда согласятся, но мы пока проигнорируем и их.
Потому что есть хороший пример. Вот возьмем например трехтомник Кнута. Или "Войну и Мир" Толстого. Или "Справочник по С++" небезызвестного трупа Страуса. Короче большую и толстую книгу. И переведем ее в реляционку с помощью крайне примитивного алгоритма. Все существительные в книге заменяем на сущности БД. Все прилагательные на атрибуты. Все глаголы на отношения БД. Алгоритм конечно не совсем корректный, но нам интересна сложность проблемы.
И вот вопрос - сколько отношений будет в такой базе? И как их нормализовать? И сколько времени будет выполняться средненький запрос с несколькими сотнями джойнов?
Вывод - нужна эффективная навигационная база данных (семантическая сеть) с кучей очень странных и неожиданных фич. Иначе человек с его скромной скоростью передачи сигнала по нервному волокну 3 м/с будет ожидать ответа неделями. Пусть мне кто-то покажет мне такую базу. И не университетские разработки public domain слепленные из курсовиков студентов, а industrial strength. Ибо работать такой базе с терабайтами.
Писать такую махину самому с нуля - минимум десятки человеколет. Хотя задачка крайне интересная. И, как мне кажется, результат стоит не сто килобаксов, в отличие от чатбота. Даже если его купит кто-то из монстров DBMS с целью эвтаназии.
3. Машина вывода.
База вообще-то должна содержать механизмы вывода фактов, которые в ней не содержатся. Т.е. механизмы логического вывода. Тут тоже проблемы, хотя имхо проблемы скорее реализации, чем теории. Однако писать свое придется, реальных пролог- или дейталог- систем под эту задачу я честно говоря не вижу. Кстати индуктивный вывод тоже должен иметь место быть.
4. Наполнение базы данных. aka онтология.
Вот тоже проблема. Спросят чатбот - а правда ли, что ты жаришь картошку на медном купоросе? Или почему паркет из майонеза насвистывает, когда по нему бегаешь босиком? И что ответит чатбот? Полшестого? ;-)
Следовательно в базе должны быть практически все факты, которые известны взрослому человеку, которого наш болтатель будет имитировать. Из чего делается паркет и как жарится картошка. Человек учится этим фактам десятилетиями. Сколько будет учиться чатбот? И как этот процесс будет происходить? Руками набивать факты в базу? Можно конечно, но как-то примитивно. Коммерческая ценность бота, который знает не больше, чем операторы, набивающие текст всегда меньше, чем стоимость этих операторов. Плюс полная перепрошивка при смене предметной области. Следовательно требуются механизмы самостоятельного обучения. Которые тоже нужно начинать с нулевого цикла. Постоянное участие бота в диалогах с кучей людей, поиск инфы в Инете и т.п. А ведь есть еще информация, принципиально недоступная машине сегодня - например сравнение запахов. А разговор о запахах она поддерживать должна.
"Какие ассоциации у Вас вызывает платье Мерилин Монро на вентиляционной решетке?" - я хочу посмотреть на тот чатбот, который ответит на этот вопрос (при условии, что ответ не зашит оператором).
Общее время создания компонент - десятки, если не сотни квалифицированных человеколет.
Это время можно сильно съэкономить, если делать жестко запрограммированный чатбот с предельно суженной предметной областью, фиксированной лексикой и невозможностью самообучения. Тогда большинство компонент становятся ненужными. Но это не очень интересно с точки зрения оригинальности идеи и последующей полезности нашего Шалтай-Болтая. Игрушка, которых уже много. Я как-то на спор написал программку motherhacker - генератор матюков произвольной этажности. Единственный вариант использования этой фигни, который я вижу сейчас - это передать PHP порт в подарок на udaff.com для автоматизированного флуда на форумах ;-)
Возможно, что я не прав и где-то скрывается простое и элегантное решение, позволяющее сократить весь этот путь. Такое, как ни странно, тоже бывает. Но я этого решения в настоящий момент не вижу. Увы.
PS
Надеюсь эти килобайты пессимизма не убьют желание двигаться дальше, а позволят избежать повторного наступания на грабли и траты времени на то, что уже кто-то сделал.
Удачи!
В Одессе было написано как минимум 2 чатбота, возможно еще можно найти программистов.
И решение этой задачи лежит за пределами "технического" программирования.
с тем что без базы данных/знаний ничего кроме игрушек не получится согласен. Хотя ИМХО ЕЯ сильно отличается от компьютерных языков или интерфейсов, во-первых неограниченостью словаря, во-вторых неограниченостью способов исспользования языковых конструкций.
К тому же ЕЯ является сильно контекстно зависимым
Детально в описание проекта www.cyc.com не вникал, но помоему они там используют дополненую ими логику предикатов первого порядка. Насколько я знаю еще сразу после изобретения Prolog многие пытались строить на основании её различные онтологии, но дальше экспертных систем дело не зашло.
Вывод это один из самых важных моментов... так как с помощью него можно получать новые знания без обучения на основе анализа уже накопленых. И с ним как раз очень много именно теоретических проблемм. Единственный теоретически 100% обоснованый механизм вывода, в виде метода резолюции как раз примеятся в Prolog.
А почему нельза наполнять базу именно в процессе общения с пользователем, получится очень даже естественно. Программа спрашивает смысл непонятных ей слов... это также позволит узнать что нужно знать для общения со среднестатистическим человеком. Обучение с учителем.
А самостоятельно обучатся читая интернет и люди не все умеют
В любом случае попытка написать чатбота основаного на знаниях очень полезна, хотя бы в образовательных целях... Может в процессе удастся найти новый способ представления знаний, способный решить все проблеммы :wink:
З.Ы. а можно взглянуть на генератор мата :?:
а сами программы можно найти, чтобы узнать стоит ли искать программистов?
супер!
homo ludens, пожалуйста!
скинь алгоритм своего чувства юмора, :wink:
можно без естественно-языкового интерфейса, без безы данных, без машины вывода, без средств наполнения.
Если бы так писали лекции хотя бы половина преподов, мы бы искоренили непосещяемость вузов и создали бы предпосылки для научно-технической революции....
ну теперь по сути
1 Интерфейс.
На моем столе сейчас лежит толстенная такая книга....
"Русский язык" называется.
там все от фонетики до стилей речи
может быть стоит начать работать "по-понятиям"
т.е. создать алгоритм распознавания большинства понятий описанных там.
от примитивных (отличить гласную букву от согласной
до более сложных деепричастные обороты, синонимы, омонимы, части речи, види предложений, стили речи...
задача не на два дня, но и не на мега-профессионало-человеко-год.
2. База
попробую включится в пример с многотомным толмудом знаний.
при условии реализации небольшой части интерфейса описанного выше, не трудно будет заполнить БД такой структуры:
Таблица 1
Имя = Существительные
Имя поля №1 = Существительные
( трудно сказать как этот объект выбился из класса "список" и попал в класс "таблица" но не в этом суть
при нахождении в тексте существительного (Пример - девочка) оно заносится в табл 1,
и создается еще 3 таблицы - списка
1 имя = девочка.бывает
2 имя = девочка.может
3 имя = девочку.можно (иногда даже нужно
в 1 заносятся все прилагательные которые встречаются в тексте и относятся к существительному (девочка.бывает - красивая, страшная, неумелая....)
в 2 все глаголы которые то тексту выполняет существительное
(девочка.может - стирать, убирать, готовить, понимать, помогать, думать, любить... (если встретите - пишите на мыло
в 3 все глаголы которые исполняются на существительном
(можно.девочку- пригласить, потрогать, ну и т.д.
Примитивная структура, согласитесь....
но на вопрос про насвистывающий пакет, бот может ответить:
"Я прочитал 5 книг, 4 569 страниц , очень много абзацев и еще больше предложений, и не встречал чтобы пакет насвистывал. Ты меня что, за чат-бота держишь?"
это конечно далеко не интеллект и не понимание речи, просто первое что пришло в голову...
3 Вывод
На сколько я знаю в лубом вузе в курс "молодого бойца" входит такой предмет как логика, с целым "разделом выводы"
Если идем от общего к конкретному, все вообще просто
(у Васи после всех пьянок болит голова
+
сегодня у Васи пьянка
=>
завтра будет :twisted:
)
В обратном случае можно примерно так
(
боксер победил каратиста
боксер победил каратиста
боксер победил каратиста
вопрос боксер победит каратиста?
БОТ РАЗМЫШЛЯЕТ
предыдущий опыт:
объект (боксер) выполнил над объектом (каратист) действие (победил)
- 3 раза
наоборот - 0 раз
Вывод
ВЕРОЯТНЕЕ ДА
)
+ есть кажется какой-то критерий Фишера или Стьюдента позволяющий определить точность модели....
4 наполнение БД
Пища для описанной системы - просто текст.
Можно запихивать гигабайтами прямо из сети, причем целенаправленно :
команда "изучи теорию относительности"
выполнение
бол лезет на яндекс, рамблер, и т.д.
Запоминает все ссылки
Закачивает все страницы с всех уникальных сайтов
и вперед - пища для размышления готова....
все написанное НЕ РУКОВОДСТВО
Это только возможный подход....
Причем наибольших усилий требует на мог взглад второй пункт - организация знаний...
ПС
Пессимизма в тексте homo ludens если честно я не заметил
!Vlad,
кстати, интересно об ИИ рассказано у Пенроуза в книге "Новый ум короля". :) Без рецептов, но как физико-философская сторона проблемы - довольно интересно.
~ Motivation is what gets you started. Habit is what keeps you going.
книга когда-то лежала на столе...!Vlad,
кстати, интересно об ИИ рассказано у Пенроуза в книге "Новый ум короля".
бегло проглядывал, не более
Возможно стоит вернутся...
здается мне что алгоритмизтровать четкую логику - не тек уж сложно
могу ошибатся, но по большому счету ВСЯ она сводится к классификации, операциям со множествами и наследованием свойст. Абсолютно алгоритмизируемые вещи.
Намного интереснее нечеткая логика, могу ошибатся. но я вижу разницу между ними только в одном:
В четкой логике результат(вывод) однобитовый
(да-нет, мходит во множество - не входит)
А в нечеткой это диапазон между 0 и 1
Скорее всего что-бы написать тот интерфейс о котором я говорил четкой логики будет не достаточно...
Без проблем. Скажи куда выложить, я не хочу его сильно пускать на волю, из него флудер гнусный получается, сотни киломатюков в минуту. ;-) Админы потом будут вспоминать меня добрым словом...З.Ы. а можно взглянуть на генератор мата?
Но вообще это очень примитивная поделка на perl'е.
Пролог очень ущербен от рождения, начиная от болезней левой рекурсии и заканчивая плохой типизацией. Построить на нем что-то большое теоретически можно,но сложно и муторно. Однако это не имеет отношения к логике предикатов первого порядка (ППП) - это проблемы реализации. Опять же есть дейталог с расширениями и т.п. Есть F-logic - языки описания логики высших порядков, где имя предиката или функтора может быть переменной, в т.ч. квантифицируемой.сразу после изобретения Prolog многие пытались строить на основании её различные онтологии, но дальше экспертных систем дело не зашло.
Т.е. здесь если напрячься, то можно пробить стену. Но опять таки, это все - всего лишь часть системы, оболочка для низкоуровневых запросов к базе данных и средство хранения интенсиональной информации.
Есть куча оптимизаций под это дело. Классическая резолюция - это прошлый век. Например если предикат, участвующий в резолюции - это отношение запчасть - поставщик в классической реляционной таблице в сотни тысяч записей, то резолюция просто задохнется. Но есть методы, которые эту штуку оптимизируют.Единственный теоретически 100% обоснованый механизм вывода, в виде метода резолюции как раз примеятся в Prolog.
Кстати человек не использует резолюцию, я бы сказал, что человек не использует логику вообще (пример - "Сынок, закрой рот и кушай!"). ;-)
Эффективное представление знаний - это по моему мнению ключ ко всему, все остальное - это оболочки к системе, которая хранит это представление.Может в процессе удастся найти новый способ представления знаний, способный решить все проблеммы
Ваши права
Тема: 
Ответить с цитированием
Социальные закладки