О роли
Resolution — стартап, занимающийся AI alignment, ищет Research Scientist для работы над направлением scalable oversight: как людям проверять результаты работы очень умных ИИ-моделей — сейчас и в будущем.
Область науки scalable oversight занимается разработкой методов проверки: например, пересказ (модель пересказывает доказательство по кускам, потом пересказы пересказов — пока не останется текст, проверяемый человеком) или дебаты (две модели спорят за противоположные ответы и ищут дыры друг у друга, человек как судья решает, чей аргумент выстоял). Фаундер компании Джеффри Ирвинг — один из авторов подхода с дебатами.
Scalable oversight — одна из нескольких ресёрч-адженд компании, в неё активно ищут исследователей. В другие направления (теоретический computer science, философия, статфизика и др.) ищут чуть менее активно, но тоже открыты вакансии — предлагается написать и обсудить.
Опыт в safety будет полезен, но не обязателен — нужны и сильные учёные из других сфер.
Требования
•PhD или эквивалентный ресерч-опыт: в ML, CS, математике, физике, статистике, философии или близкой области
•Статьи, препринты или сопоставимый результат + опыт их внятного описания
•Сильная математика
•Готовность активно, но внимательно использовать AI в работе
•Настоящая мотивация алайнментом и желание лично в него контрибьютить
Будет плюсом (специально для scalable oversight)
•Опыт с дебатами, prover-verifier играми или RLHF на фронтирном масштабе
•Бэкграунд в теории игр, теории сложности, mechanism design или теории принятия решений
Условия
•Работа из офиса в Беркли
•Виза и переезд — помогают
•Зарплата: $230k–930k в год
