Исследование компакции OpenAI от Xint

Две важные находки в API компакции OpenAI:

• GhostCompact: ошибка в биллинге, из-за которой компакция OpenAI и произвольный инференс, который она может выполнять, стали почти бесплатными. Код: ghost_compact.py, ghost_scan.py. (пост в блоге)
• Compaction Smuggling: манипулирование компакцией, чтобы заставить её скопировать скрытые рассуждения модели в элемент компакции, который более старая модель прочитает обратно. Код: compaction_smuggle.py. (пост в блоге)