Вернуть две строки из таблицы SQL с разницей в значениях

Может быть, тебе нужно

select * from my_table a
inner join my_table b on a.data !=b.data
where a.data in ( SELECT data FROM my_table ORDER BY RAND() LIMIT 1);

Для вашего кода

SELECT * 
FROM [dbo].[ComputerState] as a
INNER JOIN [dbo].[ComputerState] as b ON a.ServiceName != b.ServiceName 
WHERE a.ServiceName IN ( 
     SELECT  top 1  [ServiceName] FROM [dbo].[ComputerState] 
);

Простой способ получить случайные данные.

;with tblA as (
select name,data,
row_number() over(partition by data order by newid()) rn
from A
)
select name,data
from tblA
where rn = 1

Если вопрос действительно настолько прост, вы можете использовать агрегат, такой как MAX() или MIN(), чтобы получить по одной строке для каждого другого DATA:

SELECT   MAX(NAME), DATA
FROM     TABLE_A
GROUP BY DATA

Конечно, если в требования ввести какие-либо другие переменные, это может больше не работать.

;WITH cteA AS (
    SELECT
       name
       ,data
       ,ROW_NUMBER() OVER (PARTITION BY data ORDER BY NEWID()) as DataRowNumber
       ,ROW_NUMBER() OVER (PARTITION BY 1 ORDER BY NEWID()) as RandomRowNumber
    FROM
       A
)

SELECT *
FROM
    cteA
WHERe
    DataRowNumber = 1
    AND RandomRowNumber <= 2

Это немного расширяется в ответе @AlexKudryashev.

;with tblA as (
select name,data,
row_number() over(partition by data order by newid()) rn
from A
)
select name,data
from tblA
where rn = 1

Единственная проблема с тем, что у него было, это то, что количество строк, где rn = 1 будет зависеть от COUNT(DISTINCT data), так что это может привести к более чем двум результатам. Чтобы исправить это, можно добавить предложение SELECT TOP 2, но оно может быть не полностью случайным, поскольку результаты в этот момент будут зависеть от порядковых результатов того, как SQL оптимизирует запрос, который, вероятно, будет согласованным. Чтобы получить действительно случайный результат, добавьте второй случайный номер строки и ограничьте результаты двумя верхними из них.