Как имитировать автоматическое создание вкладки в окне macOS с нажатой клавишей Option?

Методом проб и ошибок я пришел к следующему решению.

Для этого требуется подкласс NSDocument, назовем его CustomDocument.

В нем я добавляю флаг, который контролирует, хочу ли я добавить новое окно в качестве вкладки:

@interface CustomDocument : NSDocument
   @property BOOL foceIntoTab;
@end

Затем мне нужно реализовать собственный обработчик для создания оконного контроллера, в котором я сначала определяю, есть ли уже окно, к которому я бы добавил другое, затем создаю новый контроллер и, наконец, добавляю его как вкладку:

- (void)makeWindowControllers // override
{
    __block NSWindow *frontWindow = nil;
    if (self.forceIntoTab) {
        // Find the topmost window that's of my document type
        [NSApp enumerateWindowsWithOptions:NSWindowListOrderedFrontToBack usingBlock:^(NSWindow *window, BOOL *stop) {
            if ([window.windowController.document isKindOfClass:CustomDocument.class]) {
                frontWindow = window;
                *stop = YES;
            }
        }];
    }

    NSWindowController *windowController = [[NSStoryboard storyboardWithName:@"Main" bundle:nil] instantiateControllerWithIdentifier:@"Custom Controller"];

    if (frontWindow) {
        [frontWindow.tabGroup addWindow:windowController.window];
        [windowController.window orderFront:frontWindow];
        [windowController.window makeKeyWindow];
    }

    NSViewController *viewController = windowController.contentViewController;
    [viewController setRepresentedObject:self];
    [self addWindowController:windowController];
}

Осталось установить forceIntoTab при создании нового окна через строку меню. Я мог бы сделать это, например, в своем собственном классе DocumentController:

- (nullable __kindof NSDocument *)makeUntitledDocumentOfType:(NSString *)typeName error:(NSError **)outError // override
{
    CustomDocument *doc = [super makeUntitledDocumentOfType:typeName error:outError];
    doc.forceIntoTab = YES;
    return doc;
}