Love and robots для AI alignment 1. Многие подразумевают в a | Matskevich - brains, love and robots

Love and robots для AI alignment

1. Многие подразумевают в ai alignment разные виды контроля и не допустить самосознание у AI.
2. Как можно контролировать то что на порядок умнее тебя?
3. Self-aware AGI - возможный выход делать безопасный для человека AGI
4. А что если лучший путь в alignment - это любовь
5. Между людьми особенно на более высоких уровнях эго развития alignment выстраивается не из контроля, а эмпатии. То же релевантно для больших хгрупп людий
6. AGI тоже круто иметь свое agency, self-awareness для того чтобы можно было любить и эмпатировать
7. AGI может из любви к людям принимать решения, но не все, что просят, потому что люди могут просить то, что им вредит.

И свежак от openai грант на $100к в теме

Это autogenerated summary. Дальше подробней autogenerated transcript тут ниже