SingularityNET применяет интегрированный подход искусственного интеллекта для создания автоматизированной системы регенеративной медицины.

Резюме:

Регенеративная медицина предлагает возможности, которые могут значительно улучшить условия жизни человека и значительно уменьшить различные причины страданий живых существ. Ученые разработали стволовые клетки, которые могут быть изменены на другие типы клеток - процесс, называемый клеточной дифференцировкой. Благодаря таким управляемым актам клеточной дифференциации человечество может реализовать обещания Регенеративных лекарств: выращивать органы, лечить старение и т. Д.

Существуют различные протоколы, позволяющие проводить такие акты клеточной дифференциации. Однако создание таких протоколов чрезвычайно сложно. Правильно спроектированная автоматизированная система сможет создавать и настраивать индивидуальные протоколы для успешной дифференцировки стволовых клеток.

SingularityNET применяет интегрированный подход ИИ для создания такой автоматизированной системы. Алгоритм обучения эволюционной программы OpenCog MOSES и структура вероятностного логического вывода PLN будут применяться при изучении протоколов дифференцировки стволовых клеток на основе экспериментальных данных и тщательно подобранных базовых знаний.

Различные компоненты системы будут реализованы в рамках SingularityNET как независимые агенты. Это позволит не только перенастроить инструменты компонентов, но и поэкспериментировать с другими агентами SingularityNET, некоторые из которых могут помочь в дальнейшем улучшении и развитии изначально реализованной системы.

Таким образом, этот проект планирует не только создать автоматизированную систему для настраиваемых протоколов дифференциации, но также и изучить различные возможности смешивания такого специализированного интеллекта с общими возможностями других агентов на SingularityNET. В течение 2018 года этот проект будет использоваться в качестве примера для улучшения различных конструкций, функций и возможностей SingularityNET.

Разработка этого проекта на децентрализованной основе является шагом к демократизации медицины и обеспечению того, чтобы плоды регенеративной медицины не были сохранены только для избранных. Проект такого масштаба требует участия множества исследователей и разработчиков, и мы приглашаем всех принять участие в реализации потенциала регенеративной медицины на благо всех живых существ планеты.

Будьте в курсе инициатив SingularityNET и напрямую общайтесь с командой на нашем форуме сообщества.



Форум сообщества SingularityNET
Получите прямой доступ к проектам и исследователям SingularityNET. community.singularitynet.io



1.0 Возможности регенеративной медицины

Чтобы понять, что предлагает регенеративная медицина, уместно понять, что именно представляют собой индуцированные плюрипотентные стволовые клетки (ИПСК).

Индуцированные плюрипотентные стволовые клетки (ИПСК) можно рассматривать как мастер-клетки: они обладают способностью переходить от одного типа клеток к другому.

Процесс, с помощью которого ИПСК изменяют свой тип клеток, называется клеточной дифференцировкой. Хотя другие типы стволовых клеток также обладают такой же способностью дифференцироваться с другими клетками, открытие ИПСК позволило разработать этичный способ использования преимуществ «управляемой» дифференцировки.

Таким образом, возможности регенеративной медицины столь же широки, как и основной потенциал используемых клеток. Например: ИПСК можно заставить дифференцироваться в бета-островковые клетки для лечения диабета, клетки крови для создания новых клеток, свободных от рака для пациента с лейкемией, или нейроны для лечения неврологических заболеваний.

Если ткани и органы пациента дегенерировали до такой степени, что они не могут быть восстановлены, регенеративная медицина оставляет за собой возможность выращивать ткани и органы в лаборатории и трансплантировать их в организм. Поскольку клетки, используемые для выращивания органов, поступают от пациента, существует возможность положить конец возникновению отторжения трансплантата органов и устранить нехватку органов, доступных для трансплантации.

Фактически, ученые видят, что регенеративная медицина играет решающую роль в радикальном продлении срока здоровья человека, восстанавливая клеточные повреждения, вызванные старением.

Мы считаем, что ИИ может сыграть решающую роль в полной реализации того, что может предложить регенеративная медицина, и что крайне важно демократизировать такие преобразующие медицинские технологии, чтобы они не контролировались горсткой правительств или фармацевтических компаний.

2.0 Протоколы дифференциации и ИИ

Как можно догадаться, регенерировать молодые ткани и органы внутри живых человеческих тел - непростая задача - особенности зависят от того, с какими типами клеток и систем организма человек работает, а также от особенностей пациента. Биомедицинские исследователи работают над этими трудностями, но очевидно, что прогресс можно значительно ускорить с помощью соответствующего применения ИИ.

Основная технология, необходимая для того, чтобы регенеративная медицина работала, - это контролируемая дифференциация клеток пациента для восстановления или замены поврежденных тканей и органов.

Однако создание протоколов для обеспечения такой дифференциации связано с множеством сложностей, включая различные зависимости протоколов от свойств, которые варьируются от пациента к пациенту.

Таким образом, чтобы обеспечить широкое клиническое применение этой технологии, требуются сложные и динамические протоколы, позволяющие успешно дифференцировать клетки. Такие протоколы будут контролировать производство трансплантата или регенерацию in situ в зависимости от генотипа и фенотипа пациента.

Учитывая разнообразие генотипов и фенотипов пациентов, кажется очевидным, что обеспечение широкого доступа к этой технологии, вероятно, потребует значительной автоматизации.

Правильно спроектированная автоматизированная система сможет создавать и настраивать индивидуальные протоколы для дифференциации ИПСК.

Для того, чтобы сделать это, такая система должна будет организовать огромные объемы соответствующих существующих экспериментальных данных и тщательно отобранных знаний. Основываясь на этих знаниях, он будет предлагать прогностические модели для разработки и тестирования in-silico протоколов культур клеток и тканей на основе дифференцировки и трансдифференцировки.

С этой целью мы экспериментируем с использованием инструментов ИИ из фреймворка OpenCog для автоматического обучения протоколам регенеративной медицины.

Основными инструментами ИИ, которые мы изучаем для такого рода приложений, являются эволюционный алгоритм обучения программ MOSES OpenCog и структура вероятностного логического вывода OpenCog PLN - инструменты, которые ранее применялись в биомедицинской области [i] [ii] [iii] , но не в любом приложении такой сложности.

На каждом этапе процесса разработки методов лечения регенеративной медицины существуют важные и актуальные возможности для автоматизированного открытия знаний. Кроме того, для помощи ученым и клиническим исследователям потребуются инструменты интеграции.

Итак, мы изучаем, как связать эти инструменты OpenCog AI с другими инструментами биоинформатики и наборами данных в рамках SingularityNET. Такое соединение даст два преимущества:

  1. Он предоставит легко настраиваемую и адаптируемую децентрализованную структуру для приложений регенеративной медицины и связанных задач биомедицинской информатики.
  2. Это гарантирует, что данные и результаты, полученные в результате этой работы, будут обрабатываться демократическим и коллективным образом.

Вкратце, этот проект включает в себя:

Применение обучения эволюционной программе и вероятностного логического вывода для изучения протоколов дифференцировки стволовых клеток и соматической транс-дифференцировки на основе экспериментальных данных и тщательно подобранных фоновых знаний.

Это непростая задача, и мы все еще находимся на начальной стадии. Но мы считаем, что это именно то, что нужно делать, чтобы действительно получить максимальную отдачу от регенеративной медицины, и мы считаем, что и OpenCog, и платформа SingularityNET являются весьма подходящими инструментами для выполнения этой работы.

3.0 Первые шаги и конечная цель

Мы считаем, что для того, чтобы сделать возможной полностью гибкую и персонализированную регенеративную медицину, принципиально необходимо создать интегрированную систему на основе ИИ для автоматического создания протоколов для контролируемой дифференцировки клеток в контексте регенеративной медицины.

В своей расширенной версии такая система будет включать:

  • Постоянно обновляемая и интегрированная база знаний общедоступных и проприетарных наборов данных клиентов, а также тщательно отобранных баз данных и онтологий.
  • Символьные и числовые модели развития клеток и тканей, выведенные из базы знаний и созданные de novo на основе экспериментальных данных
  • Программные представления протоколов экспериментальных культур клеток и тканей
  • Интеграция автоматизированного вывода и экспериментов по моделированию in-silico для оценки существующих доказательств, касающихся выдвинутых исследователями гипотез о потенциальных результатах протоколов-кандидатов, а также о динамике развития клеток и тканей.
  • Автоматическое создание новых протоколов-кандидатов и гипотез относительно динамики развития клеток и тканей.
  • Применение нескольких интегрированных методов машинного обучения для оценки экспериментальных результатов и вывода символьной и числовой динамики экспериментальных систем.
  • Интеграция предполагаемых знаний из экспериментальных результатов в базу знаний и формулировку модели
  • Генерация предложений по экспериментам для получения недостающих знаний

В качестве первого шага к амбициозной системе такого рода мы стремимся использовать новую интеграцию эволюционного обучения программ и вероятностного вывода для изучения новых протоколов, основанных на данных, касающихся биологии клеток и тканей, а также данных о существующих протоколах и их результатах в разные контексты.

План состоит в том, чтобы сначала продемонстрировать способность этой системы генерировать новые и полезные результаты, а затем постепенно расширять систему в направлении более широкого видения.

3.1 Простая тестовая задача

Чтобы начать демонстрацию способности предлагаемой нами системы ИИ генерировать новые и полезные результаты, мы исследуем несколько простых тестовых задач.

Рассмотрим, например, случай, когда:

  1. Протокол ИПСК к клеткам печени известен [iv]
  2. Протокол преобразования человеческих фибробластов в коричневые адипоциты известен [v]
  3. Однако неизвестно, является ли ИПСК или соматическая клетка функциональным гемопоэтическим предшественником / стволовыми клетками [vi]

Итак, перед нами стоит задача:

Начиная с первых двух протоколов - плюс соответствующие знания о развитии клеток и тканей - и затем делаем обоснованные предположения относительно протоколов третьего типа.

Для решения этой задачи могут использоваться различные типы данных, например: визуализация морфологии клеток, иммуноцитохимические профили, визуализация клеток, выявляющая меченые белки или вестерн-блоттинг, профилирование транскриптома и многое другое.

4.0 Программная разработка протоколов дифференцировки стволовых клеток

Одним из первых шагов к автоматическому обучению протоколов дифференцировки стволовых клеток является представление таких протоколов на точном языке, который легко анализируется и манипулируется автоматизированными системами обучения.

Имея это в виду, мы разработали схему для представления протоколов в виде небольших программ на языках функционального программирования, таких как LISP. Это ценно на практике, потому что многие инструменты искусственного интеллекта, имеющиеся в нашем распоряжении, включая алгоритм эволюционного обучения OpenCog MOSES [vii] и структуру вероятностной логики PLN [viii], способны изучать небольшие программы такого рода, управлять ими и анализировать их.

Чтобы проиллюстрировать концепцию, мы приводим здесь конкретный пример: начиная с некоторых вспомогательных функций и заканчивая программной формулировкой простого протокола.

Программа LISP для объединения субстратов и факторов химической дифференциации (dfs) в:

(define myMedium
(list
(substrate hE-cad-Fc]) (growthFactors (list dfA dfB dfC))
))

Программа для объединения клеточных линий и векторов для индукторов факторов транскрипции (TFi), индукторов миРНК (мРНКи) в исходную клеточную линию:

(define MyStartCells (apply (list TFiX mRNAiY) cellLine3))

Программа для определения шагов протокола инкубации как функций клеток, дополнительных факторов и переменных инкубации, которые возвращают новые клетки:

(define DifStep1 (cells medium) (incubate cells medium)))
(define DifFinal (cells medium) (incubate cells (add dfQ medium))))

Программа для определения операций измерения на клетках, которые возвращают истинное значение в зависимости от панели измерений клеточной культуры (выходом которой является нечеткое истинное значение, указывающее долю успешно дифференцированных клеток):

(measure someCells myPanel)
# 0.3
(define DifCheck (cells medium panel) (if (> (measure cells panel) 0.7)
(incubate cells (add dfP medium))) else
(incubate (apply mRNAiZ cells) medium)
))

Основываясь на вышеупомянутых функциях, мы можем сформулировать в LISP пример протокола, определенного как последовательность шагов с точками ветвления, определенными измерениями промежуточных типов ячеек:

(define myProtocol (cells medium)
(DifStepFinal (DifCheck ( DifStep1 cells medium)))

Следующий код собирает все вместе и проверяет результаты.

(measure (myProtocol myStartCells myMedium) resultPanel)

4.1 Интегрированный подход искусственного интеллекта к обучению протоколу

Исследование, которое мы изучаем в этом проекте, включает автоматическое изучение протоколов, подобных представленному в Разделе 4.0 (или более сложных примерах аналогичного характера).

К этому исследованию можно подойти путем интеграции двух методов ИИ, оба из которых в настоящее время реализованы в структуре ИИ OpenCog: эволюционное обучение программ и вероятностный логический вывод.

В предыдущей работе мы исследовали силу этой комбинации для умозрительного вывода в бионауке [ix], но текущее приложение отличается тем, что оно включает практические лабораторные процедуры, а не вывод причинных гипотез на основе данных.

Инструмент обучения эволюционным программам MOSES может изучать программы LISP формата, приведенного выше в разделе 4.0. Он итеративно оценивает совокупность программ-кандидатов, а затем генерирует новых кандидатов с помощью механизмов, которые включают: мутацию, комбинацию и, наконец, вероятностное моделирование и генерацию - все эти операции воздействуют на программы с наиболее успешными оценками.

Однако, как и все эволюционные алгоритмы, MOSES требует фитнес-функции - метода оценки вероятного успеха каждой программы (в данном случае каждого протокола) в своей популяции.

Оценка каждого протокола-кандидата в развивающейся популяции посредством реальных биологических экспериментов в настоящее время нецелесообразна: это было бы слишком медленно, учитывая большое количество кандидатов, которые необходимо оценить, прежде чем будет найдено что-то хотя бы отдаленно полезное. В этом контексте есть два жизнеспособных источника оценок пригодности: имитационное моделирование и вероятностный вывод. Наиболее успешный подход, вероятно, предполагает совместное использование двух источников.

Вероятностный вывод для такого рода проблем, вероятно, будет наиболее успешным, если он будет основан на рассуждениях по аналогии.

Например, в тестовой задаче, описанной в разделе 3.1 - логический вывод вероятностной логической сети (PLN) может использовать известные протоколы ИПСК для клеток печени и человеческий фибробласт для коричневых адипоцитов в качестве аналогий через которые позволяют рассуждать о потенциале ИПСК или соматических клеток для функциональных протоколов гематопоэтических предшественников / стволовых клеток.

Поскольку такие аналогии относительно тонкие, PLN необходимо будет использовать значительные базовые знания о лежащих в основе клетках и тканях и их динамике для выполнения своих рассуждений.

4.2 Реализация SingularityNET

Для реализации интегрированного подхода искусственного интеллекта к обучению протоколов в рамках SingularityNET мы создадим отдельные агенты, включающие:

  • Обучение эволюционной программе MOSES - настроено для обучения процедурам дифференцировки стволовых клеток.
  • Логический вывод PLN - настроен для рассуждений о генетических процедурах и снабжен базой знаний соответствующей информации.
  • Механизм моделирования - настроен для подробного численного моделирования роста стволовых клеток.
  • Интерфейсы запросов - к множеству соответствующих контейнеров данных, включая общие данные о биологии стволовых клеток и связанную многомерную информацию, а также конкретные данные о пациентах, чьи стволовые клетки и чьи реакции на лечение стволовыми клетками были изучены.
  • Инструменты для предварительной обработки и нормализации наборов данных - часто реализованные в R, а затем завернутые в интерфейсы SingularityNET.

Преимущество реализации такого рабочего процесса в такой общей среде, как SingularityNET, состоит в том, что инструменты компонентов можно легко перенастроить для использования различными способами в различных экспериментальных приложениях. Эта способность переконфигурировать компонентные инструменты очень ценна, когда кто-то проводит исследовательское исследование - а также в целом, когда он работает в области, где используемые данные, методы и знания так быстро развиваются и улучшаются.

В модульной системе SingularityNET все инструменты компонентов обернуты в API, что позволяет им взаимодействовать и существовать как независимые агенты. В такой модульной структуре становится просто заменить агента, выполняющего какую-либо одну роль в процессе (скажем, механизм моделирования), на другого агента, способного выполнять ту же роль.

Эта возможность заменять определенные агенты ИИ в SingularityNET своими собственными позволит нескольким исследователям и разработчикам совместно работать над работой, даже если некоторые из этих разработчиков или исследователей могут не полностью понимать всю картину, в которой используются их код или данные.

Например, сторонний разработчик может работать только над созданием высокоэффективного механизма моделирования и может создать такого агента в SingularityNET. Если этот новый агент действительно эффективен при численном моделировании роста стволовых клеток, он может стать основным средством моделирования другими агентами, работающими над этим проектом. Модульная структура инфраструктуры SingularityNET, таким образом, позволит общей автоматизированной системе улучшаться и развиваться за счет использования других агентов, созданных сторонними разработчиками.

Поскольку платформа SingularityNET постепенно развивается в течение 2018 года, мы будем использовать этот интегрированный подход ИИ к изучению протокола в качестве примера, чтобы помочь нам уточнить различные аспекты общего дизайна сети, такие как «API API» для связи между агентами. и интеграция с SingularityNET сторонней предварительной обработки данных, инструментов моделирования и крупномасштабных наборов числовых данных.

5.0 Дорожная карта

Фактический прогресс в этой работе будет развиваться в зависимости от характера первых полученных результатов. Но для понимания и планирования стоит даже на этой ранней стадии набросать предполагаемое нами направление развития:

Фаза 1

  • Создайте соответствующую базу знаний на уровне генов, белков и клеток в OpenCog's Atomspace.
  • Уточните символьное / логическое представление модели клеток, определяющих регуляторные сети генов и связанные протоколы (в духе примеров LISP, приведенных в Разделе 4.0).
  • Сконфигурируйте MOSES и PLN вместе, чтобы включить автоматическое обучение протоколам дифференциации на основе факторов транскрипции, как описано ранее.
  • Интегрируйте комбинацию инструментов в структуру SingularityNET.
  • Начните экспериментальную проверку результатов, полученных с помощью этого автоматизированного обучения.

Фаза 2

  • Продолжить экспериментальную проверку результатов
  • Добавление представления малых молекул в Atomspace
  • Начать интеграцию численного моделирования развития клеток в структуру, это позволяет проводить оценку пригодности протоколов-кандидатов на основе имитационного моделирования (дополняя выводную оценку пригодности)
  • Разработка представления знаний о морфологии клеток и внеклеточной среде для моделирования развития тканей
  • Расширение протокола вывода на системы на тканевом уровне
  • Распространение протокольного вывода на системы трансдифференциации
  • Начать разработку системы мониторинга процессов, основанной на знаниях, для автоматизированного управления производством клинических продуктов в реальном времени.
  • Уточните и оптимизируйте встраивание набора инструментов в SingularityNET на основе отзывов пользователей.

Фаза 3

  • Полная интеграция численного моделирования дифференцировки клеток и развития / регенерации тканей.
  • Продемонстрировать автоматизированный контроль производства клинически значимых клеточных продуктов
  • Расширение представления знаний для моделирования систем на уровне органов
  • Расширение протокола вывода на развитие системы органов
  • Расширьте возможности мониторинга процессов на основе знаний для автоматизированного контроля производства тканей и органов в реальном времени
  • Начать интеграцию автоматизированной высокопроизводительной системы культивирования клеток для вывода гипотез с обратной связью, экспериментальной проверки, обновления базы знаний и автоматизированной системы генерации знаний.

6.0 Горизонты будущего

Отсюда достаточно долгая дорога. Реализация этого видения потребует сотрудничества значительного сообщества исследователей и разработчиков, занимающихся биоинформатикой, искусственным интеллектом, программной инженерией, имитационным моделированием, а также биологической и медицинской лабораторной работой.

Тем не менее, в этом проекте нет ничего удивительного или загадочного - только пошаговая настройка, комбинация и применение известных алгоритмических инструментов к наборам данных, которые сейчас собирают лаборатории и клиники. Объединив соответствующий набор инструментов в достаточно гибкую структуру и проведя разумные эксперименты, можно систематически реализовать научно-фантастические мечты об использовании ИИ для выращивания человеческих органов по требованию или о возвращении молодости стареющим тканям человеческого тела.

Наблюдатели за прогрессом высокого уровня в области ИИ могут заметить, что ни одно из того, что мы здесь описали, не требует хоть сколько-нибудь близкого к полноценному общему человеческому уровню искусственного интеллекта - скорее, «просто» осторожного сочетания различных техник узкого ИИ.

Тем не менее, также интересно подумать о том, что может произойти, если подключить систему ИИ, способную управлять дифференцировкой стволовых клеток, как описано здесь, с ИИ, обладающим базовыми человеческими рассуждениями здравого смысла, такими как SingularityNET, над которыми работает в тесном сотрудничестве со своими партнерами. -основатель фирмы Hanson Robotics.

Сочетание здравого смысла и такого рода специализированного интеллекта вполне может привести к радикальному научному творчеству, невиданного ранее. Не просто создание новых или недавно персонализированных протоколов дифференцировки стволовых клеток - но изобретение совершенно новых типов терапии, основанных на понимании специфики регенеративной медицины в контексте всего человеческого организма и ее встраивании в более крупную матрицу, включая физику, химия и повседневная социальная жизнь человека.

Зрелая SingularityNET предоставит отличную платформу для экспериментов с этими более широкими интеграциями, а также с более узкими видами интеграции для конкретных приложений, которые мы здесь разработали.

Следует отметить актуальность децентрализованного характера платформы SingularityNET в этом контексте. Наша работа по регенеративной медицине движется скорее научными и гуманитарными, чем политическими целями, но невозможно полностью разделить эти области жизни.

Способность восстанавливать стареющие тела молодости будет мощным подарком, и важно, чтобы общество даровало ее всем, кто этого хочет, а не только элите, которая может себе это позволить. Эти технологии должны быть реализованы таким образом, чтобы естественным образом побуждать их к широкому распространению и агрессивному снижению затрат.

Анализ данных о стволовых клетках человека из человеческих популяций - это то, что может предоставить носителю аналитических результатов значительную практическую ценность в различных отношениях. Желательно, чтобы эта ценность в значительной степени сохранялась у авторов данных и всего человечества в целом, а не хранилась в хранилищах данных и ограждалась для использования несколькими правительствами или фармацевтическими фирмами.

Это стремление к демократизации является одним из основных факторов недавнего расцвета проектов медицинских данных на основе блокчейнов (таких как партнерский проект SingularityNET Shivom), а результаты описанных здесь исследований регенеративной медицины на основе искусственного интеллекта в рамках децентрализованной структуры представляют собой еще одну. шаг к демократизации медицины.

Мы верим в применение ИИ на благо всех живых существ, с участием и адаптацией - и эти общие принципы, если они хотят быть больше, чем пустой набор слов, должны быть воплощены в реализации и развертывании практического ИИ. как в описанных здесь приложениях регенеративной медицины.

Использованная литература:

[I] Looks, Моше, Бен Герцель, Лусио де Соуза Коэльо, Маурисио Мудадо и Кассио Пенначин, Кластеризация данных экспрессии генов с помощью горных ансамблей правил классификации, разработанных с использованием MOSES, Связь генетических и эволюционных вычислений (GECCO ), 2007.

[Ii] Looks, Моше, Бен Герцель, Лусио де Соуза Коэльо, Маурисио Мудадо и Кассио Пенначин, Понимание данных микрочипов посредством применения компетентной эволюции программ, Связь генетических и эволюционных вычислений (GECCO) , 2007 г.

[Iii] Бен Гертцель, Нил Гейсвайлер, Эдди Монро, Майк Дункан, Селамавит Йилма, Мезерет Дасто, Мисгана Байетта, Амен Белайне, Мэтью Икле, Джино Ю, Спекулятивный научный вывод посредством синергетического сочетания вероятностного логического распознавания и эволюции Материалы 8-й Международной конференции по общему искусственному интеллекту, 22–22 июля 2015 г.

[Iv] Си-Тайеб К., Ното Ф.К. и др. Высокоэффективное создание гепатоцитоподобных клеток человека из индуцированных плюрипотентных стволовых клеток. Гепатология. 2010 Январь; 51 (1): 297–305. DOI: 10.1002 / hep.23354.

[V] Такеда Й., Харада Й. и др. Прямое преобразование человеческих фибробластов в коричневые адипоциты небольшими химическими соединениями. Научные отчеты; 7: 4304. DOI: 10.1038 / s41598–017–04665-x

[Vi] Дэниэл М.Г., Лемишка И.Р., Мур К. Преобразование судьбы клеток: создание гемопоэтических стволовых клеток de novo посредством репрограммирования факторов транскрипции. Ann N Y Acad Sci. 2016 апрель; 1370 (1): 24–35. DOI: 10.1111 / nyas.12989.

[Vii] Смотрит М. Грамотная эволюция программы. Кандидатская диссертация, Вашингтонский университет, 2006: Сент-Луис, Миссури

[Viii] Герцель Б., Икле М. и др. Вероятностные логические сети: комплексная основа для

Неопределенный вывод. Springer Publishing Co, Inc. 2008. ISBN: 0387768718 9780387768717 (полный текст)

[Ix] См. Ссылку iii выше