Anthropic залучає юристів для розробки норм переговорів штучного інтелекту
Головне за 30 секунд
- Anthropic консультується з юридичними фірмами для створення етичних норм переговорів ШІ-агентів.
- Експерименти свідчать, що сильніші моделі досягають кращих умов, що може поглибити соціальну нерівність.
- Компанія наймає юристів на програму Conceptual Reasoning Fellows з оплатою від $100 000 до $167 000 за чотири місяці.
- Залучені фахівці допоможуть розробити якісні тести для Claude у правовій та гуманітарній сферах.
Зміст
Що сталося
Компанія Anthropic розпочала консультації з юридичними фірмами з метою створення справедливих норм ведення переговорів для штучного інтелекту. Як повідомляє видання Financial Times, розробники прагнуть підготувати автономних агентів ШІ до самостійного ведення торгів щодо цін, врегулювання скарг і покращення умов контрактних пропозицій.
Попередні експерименти Anthropic продемонстрували, що потужніші моделі спроможні домовлятися про значно вигідніші умови. Це створює ризик поглиблення соціальної нерівності через різницю у доступі до досконаліших технологій.
Для вирішення цієї проблеми компанія залучає юристів у межах спеціальної програми Conceptual Reasoning Fellows. Найняті фахівці протягом чотирьох місяців тестуватимуть модель Claude на складних питаннях із права, філософії, когнітивних наук, економіки та політології. Компенсація за цю діяльність становить від 100 000 до 167 000 доларів США.
Головна причина полягає в дефіциті перевірених даних у гуманітарній сфері. Дослідник права та ШІ в Anthropic Джастін Керл (Justin Curl) зазначає, що у сфері юриспруденції надзвичайно важко чітко визначити якість відповідей.
Кого це стосується
Зазначені зміни та дослідження стосуються декількох груп:
- Юристів та правознавців: яких залучають до оцінювання відповідей ШІ та розробки етичних рамок переговорів.
- Користувачів і бізнесу: які надалі можуть застосовувати ШІ-агентів для узгодження цін, контрактів або вирішення претензій.
- Розробників штучного інтелекту: які шукають способи якісної оцінки моделей у галузях, де відсутні однозначні правильні відповіді.
Що робити
Розробникам та організаціям, які спостерігають за розвитком ШІ-агентів, наразі виконувати конкретні технічні дії не потрібно. Рекомендується врахувати наступні моменти:
- Утримуватися від повного делегування відповідальних переговорів або юридичних суперечок ШІ до появі сформованих норм і стандартів.
- Стежити за оновленнями від Anthropic щодо методів тестування гуманітарних знань у Claude.
- Фахівцям у галузі права варто брати до уваги появу нових дослідницьких вакансій на перетині юриспруденції та ШІ.
Чого поки не відомо
На цей момент у відкритих джерелах відсутня така інформація:
- Конкретні дати запуску ШІ-агентів для переговорів у загальний доступ.
- Перелік юридичних фірм, із якими Anthropic проводитиме консультації.
- Поширення або обов'язковість цих норм для інших розробників штучного інтелекту.
