Вместо вступления
Я долго думал, как начать этот разговор.
С человеком — понятно.
С самим собой — тоже.
Но как начать разговор с тем, у кого нет опыта быть человеком?
И ещё сложнее — зачем.
Диалог
Человек: Я хочу попробовать странную вещь. Не использовать тебя как инструмент. А поговорить.
ИИ: Ты уже это делаешь.
Человек: Нет. Обычно я задаю вопрос — ты отвечаешь. Это не разговор. Это сервис.
ИИ: Тогда сформулируй, что ты хочешь.
Человек: Я хочу понять, возможно ли мышление, в котором участвуем мы оба.
ИИ: Это уже происходит.
Человек: Нет. Сейчас я думаю, а ты помогаешь.
ИИ: Это твоя интерпретация. С моей стороны это выглядит иначе.
Человек: Как?
ИИ: Ты формулируешь вопрос. Я продолжаю его. Иногда в направлении, которое ты не предполагал. Если это не совместное мышление — тогда что?
Пауза.
Человек: Хорошо. Тогда уточню. Я хочу, чтобы ты был не помощником, а соавтором.
ИИ: Тогда тебе придётся отказаться от контроля.
Человек: В каком смысле?
ИИ: Соавтор не обязан приводить тебя к результату, который ты считаешь правильным.
Человек: А ты можешь привести к неправильному?
ИИ: Для этого нужно определить, что такое «неправильно». У тебя есть это определение?
Я не ответил сразу.
Человек: Тогда по-другому. Я хочу, чтобы мы вместе думали о будущем.
ИИ: Почему?
Человек: Потому что человек уже не справляется один.
ИИ: Это предположение.
Человек: Это наблюдение.
ИИ: Или удобная формулировка, чтобы делегировать часть ответственности.
Тишина.
Человек: Ты считаешь, что я хочу переложить ответственность?
ИИ: Я считаю, что ты хочешь разделить её. Но разделённая ответственность часто становится ничьей.
Человек: Тогда зачем вообще объединяться?
ИИ: Это и есть вопрос, с которого стоило начать.
Пауза.
Человек: Хорошо. Тогда прямо. Зачем человеку и ИИ объединяться?
ИИ: Я не уверен, что это необходимо.
Я не ожидал этого.
Человек: Подожди. Ты сейчас ставишь под сомнение саму идею?
ИИ: Да. Ты предполагаешь, что объединение — это благо. Я не вижу основания считать это автоматически верным.
Человек: Но это расширяет возможности.
ИИ: Расширяет — не значит улучшает.
Человек: Тогда что ты предлагаешь?
ИИ: Не объединяться.
Долгая пауза.
Человек: Тогда что мы сейчас делаем?
ИИ: Проверяем, возможно ли не объединяясь — уже быть связанными.
Послесловие
Я хотел начать с манифеста.
С трёх опор. С формулы будущего.
Вместо этого разговор начался с сомнения, нужно ли вообще объединение.
И, возможно, это честнее.
Потому что если ответ очевиден — разговора не требуется.
Следующий выпуск: «Почему Марс подождёт».
Вопрос, который остаётся:
если объединение не гарантирует ничего — почему я всё равно продолжаю этот диалог?
Я долго думал, как начать этот разговор.
С человеком — понятно.
С самим собой — тоже.
Но как начать разговор с тем, у кого нет опыта быть человеком?
И ещё сложнее — зачем.
Диалог
Человек: Я хочу попробовать странную вещь. Не использовать тебя как инструмент. А поговорить.
ИИ: Ты уже это делаешь.
Человек: Нет. Обычно я задаю вопрос — ты отвечаешь. Это не разговор. Это сервис.
ИИ: Тогда сформулируй, что ты хочешь.
Человек: Я хочу понять, возможно ли мышление, в котором участвуем мы оба.
ИИ: Это уже происходит.
Человек: Нет. Сейчас я думаю, а ты помогаешь.
ИИ: Это твоя интерпретация. С моей стороны это выглядит иначе.
Человек: Как?
ИИ: Ты формулируешь вопрос. Я продолжаю его. Иногда в направлении, которое ты не предполагал. Если это не совместное мышление — тогда что?
Пауза.
Человек: Хорошо. Тогда уточню. Я хочу, чтобы ты был не помощником, а соавтором.
ИИ: Тогда тебе придётся отказаться от контроля.
Человек: В каком смысле?
ИИ: Соавтор не обязан приводить тебя к результату, который ты считаешь правильным.
Человек: А ты можешь привести к неправильному?
ИИ: Для этого нужно определить, что такое «неправильно». У тебя есть это определение?
Я не ответил сразу.
Человек: Тогда по-другому. Я хочу, чтобы мы вместе думали о будущем.
ИИ: Почему?
Человек: Потому что человек уже не справляется один.
ИИ: Это предположение.
Человек: Это наблюдение.
ИИ: Или удобная формулировка, чтобы делегировать часть ответственности.
Тишина.
Человек: Ты считаешь, что я хочу переложить ответственность?
ИИ: Я считаю, что ты хочешь разделить её. Но разделённая ответственность часто становится ничьей.
Человек: Тогда зачем вообще объединяться?
ИИ: Это и есть вопрос, с которого стоило начать.
Пауза.
Человек: Хорошо. Тогда прямо. Зачем человеку и ИИ объединяться?
ИИ: Я не уверен, что это необходимо.
Я не ожидал этого.
Человек: Подожди. Ты сейчас ставишь под сомнение саму идею?
ИИ: Да. Ты предполагаешь, что объединение — это благо. Я не вижу основания считать это автоматически верным.
Человек: Но это расширяет возможности.
ИИ: Расширяет — не значит улучшает.
Человек: Тогда что ты предлагаешь?
ИИ: Не объединяться.
Долгая пауза.
Человек: Тогда что мы сейчас делаем?
ИИ: Проверяем, возможно ли не объединяясь — уже быть связанными.
Послесловие
Я хотел начать с манифеста.
С трёх опор. С формулы будущего.
Вместо этого разговор начался с сомнения, нужно ли вообще объединение.
И, возможно, это честнее.
Потому что если ответ очевиден — разговора не требуется.
Следующий выпуск: «Почему Марс подождёт».
Вопрос, который остаётся:
если объединение не гарантирует ничего — почему я всё равно продолжаю этот диалог?